本校的前身是臺灣光復前的「臺北師範第三附小」，光復後省教育廳為推廣國語教育，實驗新的教育方法，於民國35年5月，將原校名改為「臺灣省國語推行委員會附設實驗小學」，是為本校成立之始。56年7月本校奉命改隸臺北市，更名為「臺北市國語實驗國民小學」。
本校校地16,348平方公尺，現今共有同心樓、同德樓、實踐樓、勤學樓四棟樓房。計普通教室64間，專科教室及辦公室共43間，運動場2處，活動中心1間。
現在小學部已增至64班、資源班4班、幼稚園6班，學生人數共約2400多人。人數最多時一班有53人，逐年降低班級人數目前是35至30人一班。
