莱芜的起源可以追溯到汉朝时期，当时莱芜是泰山郡的一部分。唐朝时期，莱芜建立了县制，成为一个独立的行政区划。在明清时期，莱芜仍然是山东省的一个县。1949年，中华人民共和国成立后，莱芜改设为市，成为山东省的一个地级市。莱芜市的名字则来源于莱山和芜湖两个地名合并而来。莱山是莱州的别称，莱州位于今天的山东省东部沿海地带。芜湖则是指安徽省的一个城市，两者合称莱芜，意为“莱州之地，芜湖之水”。
莱芜的由来有六说：
分别是荒芜说、来无石说、山名说、莱民播流此谷说、舞熬说、牟芜音转说。
从历史上看，西汉增置牟县(治所在今赵家泉村)，又于牟县东北置莱芜县，因治所设在淄水流域的莱芜谷，故名莱芜。
按字意解释，莱俗称灰菜，芜是田野荒芜，意即荒凉的地方，所以叫莱芜。
