1882年，张之洞任山西巡抚期间奏准在太原府署西偏明代晋藩宝贤堂故址创立令德堂。1897年，更名为山西省会学堂。1912年，更名为山西师范学堂。
1952年，太原市教育局在北肖墙创立太原女子中学校，成为山西省实验中学历史的正式开端。
1955年7月，太原女子中学更名为太原第十初级中学校，并迁往解放路省实验中学校址。
1958年，学校由初级中学校更名为山西省太原第十中学校。
1986年，正式更名为山西省实验中学，学校划归省教育厅直接领导。 [1-2]
2000年，学校在太原市南部的国家级高新技术产业开发区建设高新校区（晋阳街）。
2009年9月，省实验中学高新校区落成启用。
