古时，贵州以贵山得名，贵州古称黔中，所以简称黔。春秋以前，黔东北地区属荆楚。其他的地区泛称南蛮，著名的有牂牁国。到元朝时，贵州还分别隶属湖广，四川，云南三省。明朝设贵州布政司，是贵州得名开始。清把四川所属遵义府改隶贵州，才构成现在贵州。
，贵州最早的一级行政区划机构——牂牁郡
贵州历史上，曾经出现过一个十分强大的国家，名为“夜郎”。根据《史记·西南夷列传》记载，夜郎是西南最强国家，地处于牂牁江上，有精兵10万。有根据考古学家考证，夜郎国的版图西到曲靖一带，北到大娄山、长江一带，向南超过南盘江，向东到达了清水江上游，的确是西南最强的国家。当然，夜郎国还处于较为落后的“方国联盟”阶段，其内部还有大大小小的许多邦国，如且兰、鳖国、習国、句町、漏卧等。
汉武帝之时，夜郎等部族纷纷臣服，汉武帝在此推行了郡国并行制：一方面册封夜郎王，曾任其对地方的统治，一方面又建立了牂牁郡、犍为郡，作为汉朝在此地的管辖机构。郡县设置不久，且兰国等曾发动了叛乱，杀了键为太守。汉武帝平定叛乱后，将键为郡北移到巴蜀，而牂牁郡则管辖整个夜郎国地区了，管辖且兰（福泉）、夜郎（关岭）、鄨（遵义）、平夷（大方）、毋敛（独山）、谈指（贞丰）、出丹、夜郎、同并（弥勒）、谈焒、漏江（泸西）、毋单（弥勒西）、宛温（砚山）、镡封、漏卧（罗平）、句町（广南）、进乘（屏边）、西随（金平）等 17 县。此后的数百年时间，一直到南北朝，夜郎国故地都设置有牂牁郡。在西汉末期，夜郎王曾经胁迫22个小邦叛乱，结果被牂牁太守陈立平定，夜郎国的历史上正式结束了。
