日治時期之初等教育包括小學校與公學校，學程六年，公學校另設有高等科，學程二年。當時的台灣人就讀於公學校，小學校則是提供給日本人讀的。公學校的前身為國語傳習所，在台灣教育令頒布後，將分校改制為分教場，西元一九四一年後，則將小學校與公學校一律改名為國民學校。
清水國小最初為台中國語傳習所於西元一八九七年（民前十五年，明治三十年）在清水舊文昌祠舊址（今電力公司清水服務所）成立牛罵頭分教場，並於隔年，獨立為牛罵頭公學校。西元一九二一年時，改名為清水第一公學校。西元一九二六年（大正十五年）四月設置高等科，並於西元一九四六年（民國三十五年）廢止。
民國二十四年四月因原校舍不敷使用，遷移光華路現址。西元一九四一年（昭和十六年）又改名為清水南國民學校，戰後（西元一九四五年）更名為清水國民學校。最後一次更名是在西元一九六八年，改名為「清水國民小學」，此名一直沿用至今。
