开原是明代兴建最早的古城，素有“辽北古城”之称。秦、西汉至晋属扶余地。
北魏勿吉地。
隋为黑水靺鞨所属。唐初属燕州黑水府。唐懿宗咸通年间（860—873年）属渤海国地，隶福上京龙泉府。
辽为黄龙府地。
金为会宁府地。
元属开元路。元太宗七年
（1236年）曾在黑龙江境内设置开元万户府，后来治所移到黄龙府（今吉林省农安县）。
元成亲元贞二年（1268年）改开元万户府为开元路。
明在此地设三万卫、辽海卫、安乐州。明洪武二十一年（1388年），开元路治所移到咸平府（开原老城），为避皇帝玮，宰相刘伯温建议改“开元”为“开原”，既不变原名之音，又不变其开拓、宏大伟岸、吉祥安康之意。并封韩王朱松于开原。
清康熙三年（1664年）撤销三万卫，置开原县，属奉天省。
民国初属奉天省辽沈道。1939年（民国二十八年），伪满洲国开原县政府从老城迁至开原街。
1949年10月，归辽西省管辖。
1954年8月，归辽宁省管辖。
1984年9月，隶辽宁省铁岭市管辖。1989年3月，撤县建市，隶属铁岭市管辖至今。
