本校於大正二年(西元1913年)創立,「臺灣總督府國語學校附屬小學校」為本校的創校名稱,二月十三日為創校日。在日據時代,本校以大學教授、醫生和高官的子弟居多,就算是日本人,也要家境良好的才能就讀本校。昭和二年(西元1927年)四月一日,第一位臺灣人--許伯珽進入本校就讀(父親許丙先生是日本貴族院議員)。當時如果要進本校就讀,除了要通過入學考試之外,還要抽籤,所以能入學的學生都是相當優秀的。第二次世界大戰日本戰敗,當時本校名為「臺灣總督府臺北師範學校附屬第一國民學校」。被中華民國政府接收後,於民國三十四年(西元1945年)改名為「臺灣省立臺北女子師範學校附屬小學」。之後,又經歷了師範改師專、從隸屬於臺灣省改隸屬於臺北市、師專改制師範學院、師範學院改制教育大學等等時空的變遷,而校名屢有更改。本校於民國九十四年(西元2005年)更名為「臺北市立教育大學附設實驗國民小學」。
從大正二年(西元1913年)發展至今民國九十七年(西元2008年),本校已有九十五年歷史。日據時代前後共計三十二年,換了九任主事先生(校長);臺灣光復至今已有六十三年歷史,歷任十七位校長,現任校長為方慧琴女士。