苍梧是中国古代传说中帝舜死后葬在的地方。据《史记》和《礼记》记载，帝舜践位39年后南巡狩时在苍梧之野崩逝，被葬于江南九疑，即今天的零陵。因此，“苍梧”常被用来咏叹帝王之死，如唐代钱起的《省试湘灵鼓瑟》诗中“苍梧来怨慕”。
苍梧县因苍梧花、苍梧郡而得名。古代苍梧郡治今梧州北山脚下。汉代北山遍生桐树,春夏开花,古人称为刺桐或苍梧花。汉朝以苍梧花之名,在广信县地置苍梧郡。
秦始皇南取百越,置南海、桂林、象郡3郡。县地属桂林郡(一说南海郡)。南海郡辖境是东南濒南海,西到今广西贺州,北连南岭,包括今粤东、粤北、粤中和粤西的一部分,辖番禺、龙川、博罗、四会4个县(据《汉书》记载),郡治番禺 。此外,湛江等地属象郡,粤西有一部分属桂林郡 ,梧州属桂林郡(一说南海郡) 。
秦末,赵佗武力攻并桂林、象郡,建立南越国,自称"南越武王"。当时,广东除今连州及乐昌北境属长沙郡管辖外,都属南越国地盘。西汉高后五年(前183年),赵佗称南越武帝,封赵光为苍梧王。同年,建苍梧王城,这是梧州建城之始 .。
汉武帝平定南越后,汉朝将南越地划分为南海、苍梧、郁林、和浦、交趾、九真、日南、儋耳、珠崖9个郡元鼎六年(前111年),汉武帝灭南越国后,在其原属地上分置7郡:南海、苍梧、郁林、合浦、交趾、九真、日南,包括今广东广西大部分地区,北至湖南江永县,南至越南顺化市的广大地区。苍梧郡郡治广信县苍梧王城 。元封五年(公元前106),置猛陵县(今人和镇、岭脚乡地),县治猛陵(今人和镇孟陵村)。广信、猛陵两县隶苍梧郡。郡太守驻广信县(位于现今广西梧州、贺州与广东封开一带,即西江与贺江交汇一带 ),元封五年(公元前106),刺史部治所由赢[阝娄]移驻广信县。西汉元鼎六年(公元前111年) 地域内置8县,四会县隶属南海郡;广信、谢沐、高要、封阳、端溪5县隶属苍梧郡;高凉县、临允县隶合浦郡;统属交州 。
东汉末,交趾部改为交州,苍梧郡、和浦郡、荆州贵阳郡和扬州豫章郡的一部分属于今天的广东 。217年(建安二十二年),步骘把交州州治从广信东迁番禺 。
三国(吴)黄武五年(226年),将交州东部置广州,以番禺为广州治,苍梧郡属于广州,郡治在今广西梧州。三国吴孙皓天纪四年(280),由广信县分置新宁县(今大坡镇、广平镇地),县治大城村(今大坡镇城村)。隶苍梧郡,苍梧郡属于广州。
晋太康元年(280),由广信县分置农城县(今龙圩镇、新地镇、林水乡地),县治农城(今龙圩镇),同年新宁县改名宁新县。
