砀山县历史悠久，有文字可考的近三千年。夏禹分天下为九州，砀山属豫州，春秋时居宋国，战国时属楚国，秦始皇统一中国后，分天下为三十六郡，砀郡乃其中之一，汉高祖刘邦做过砀郡长。隋设砀山县。原砀城在芒砀山的西麓。芒砀山景色秀丽，神秘如幻，砀山便因此而得名。1952年，芒砀山划归河南永城县管辖。而砀山县隶属安徽宿县地区管辖。所以砀山境内便再无山。至今，砀山无山时常成为砀山人民心中的一件憾事。
砀山，芒砀山的山峰，《史记·高祖本纪》记载：“ 秦始皇常曰‘东南有天子气’，於是因东游厌（压）之。 高祖即自疑，亡匿，隐於芒、砀山泽巖石之闲。”《水经注》记载：“有仙者涓子、主柱，并隐于砀山得道。汉高祖隐之，即于是处也”。
《史记·高祖本纪》：“ 秦始皇常曰‘东南有天子气’，於是因东游厌（压）之。 高祖即自疑，亡匿，隐於芒、砀山泽巖石之闲。”
《汉书》新注中说“秦始皇帝尝曰“东南有天子气，于是东游以厌之。高祖隐于芒。砀山泽间。
《汉书·地理志》：“砀山出文石”。
《后汉书·申屠蟠传》：乃绝迹于梁、砀之间，因树为屋，自同佣人。
《列仙传》：“山泽深固，多怀神智。有仙人涓子、主柱隐芒、砀山得道。”
《水经注》：“芒砀二县之间，山泽深固，多怀神智。有仙者涓子、主柱，并隐于砀山得道。汉高祖隐之，即于是处也”，“县有砀山，山在东，出文石。秦立砀郡，盖取山之名也，王莽之节砀县也。”
