1万年前，高州就有了人类活动。
在南部的祥山镇出土有两件穿孔石球，是当时旧石器时代晚期制作和使用的捕猎工具。这是高州发现最早的石器工具。新石器时代，高州出现了多处人类聚居点。目前，高州已发现的新石器时代文化遗址2处，新石器文物出土点11处。出土有石斧、石锛、石环、石珠等磨制石器，还出土有陶纺轮、陶网坠等原始陶制品，距今约4000年至6000年。高州先民在原始社会里，开始步入人类文明社会，并以部落形式维系着原始社会组织。先秦时期，高州归属于西瓯、骆越部族。秦统一岭南后，设南海、桂林和象郡，高州市当时处于桂林和象郡之间，即中北部属桂林郡，南部属象郡。西汉元鼎六年（公元前111年），汉武帝灭南越国，置交趾部合浦郡，郡治今合浦市，郡内置高凉县，县治在今阳江市北30公里，今高州南部时属合浦郡高凉县，北部属苍梧郡端溪县。东汉末建安二十五年（公元220年），孙权析合浦郡高凉县分置高凉郡（治所今恩平北）和高兴郡（治所今阳江西）。高州市南部时属高兴郡，北部属苍梧郡端溪县。西晋太康元年（公元280年），高兴郡并入高凉郡，郡治在安宁（今阳江西30里白沙）。东晋永和七年（351），苍梧郡增设晋康等郡，高州市当时北部属晋康郡端溪县，南部属高凉郡高凉县。晋康郡、高凉郡同隶广州。南朝梁大通中（公元528年），梁平俚洞置高州，州治在今阳西县。南朝梁大通中（公元530年），置电白郡，郡治在今高州长坡旧城，属高州；同时在今化州升罗州县为罗州，今高州市西部、西南部属罗州高兴郡；北部属泷州梁德郡；中部、东部属电白郡，南部属南巴郡。隋开皇九年（589），废电白郡、海昌二郡置电白县，废连江、南巴二郡置连江县、南巴县，隶高州，高州治所仍在高凉县（今阳江西）。废高兴、石龙二郡置石龙、吴川县。开皇十八年（598）增设茂名县，三县均隶罗州。今高州市中部、西部属电白县、南部属南巴县、西部属茂名县、北部良德县。隋大业三年（607）高州、罗州被废，复置高凉郡，治所在高凉县（今阳江西），今高州市属高凉郡。至唐武德四年（621）废高凉郡，电白、连江等县隶广州，武德六年复置高州，州治仍在阳江，延至唐贞观二十三年（646），高州治迁良德县（今高州东北）。开元元年（713）高州治所又迁连江县（今电白马踏），唐天宝元年（742）改高州为高凉郡，郡所保安城（连江改名，今电白马踏），仍辖良德、电白、连江三县。乾元元年（758）高凉郡被废，复称高州郡。至大历十一年（776）迁州治至电白县城（今高州长坡旧城），领电白、良德、保宁三县，一直延续到北宋初年。南朝梁在信宜东北置泷州梁德郡，今高州市东北属此郡。南朝陈永定二年（公元558年），在今高州东北境内析置务德郡，县治今高州市东岸镇东，隋开皇九年（589）废务德郡置良德县，时隶泷州（大业三年607年废泷州置永熙郡），唐武德六年（623）划归高州。
