春秋时，此地因“地产好瓜”得名瓜州。战国时，月氏逐渐强大，吞并羌人，赶走乌孙，这里属大月氏国。
秦汉之际，雄踞漠北的匈奴崛起，打败月氏，占据敦煌。西汉武帝时，经过反击匈奴的战争，迫使匈奴“远循”，河西地区归入汉朝版图；元鼎六年（前111年）设置敦煌郡，意“敦，大也，煌，盛也”，为河西四郡之一。
张骞通西域的“凿空”之行，开通了影响深远的丝绸之路。新莽时一度改称敦德。东汉建立，复名敦煌郡。窦融率河西归服。由于北匈奴控制了西域，敦煌郡既担负着防御匈奴进攻的重任。这一时期，敦煌经济发展、地位提高，中央主管西域事务的护西域副尉长驻敦煌，这里成为统辖西域的军政中心。
魏文帝曹丕篡位以后，派兵消灭了河西的割据势力，委派尹奉为敦煌太守。西晋时敦煌出现了索靖、索袭、宋纤、氾腾等一批名儒。前凉以这里地处大漠之中，而置沙州，后来成为西凉国都。
东晋前凉时将敦煌、晋昌、高昌三郡和西域都护、戊巳校尉、玉门大护军三营合设沙州；前秦二年（366年）始开凿莫高窟；隆安四年（400年）李暠建西凉国，初都敦煌。
北魏初（439年）置敦煌镇，526年置瓜州，敦煌为治所。汉魏之际多战乱，但敦煌经济日渐繁荣，中原文化传播，佛教东渐，成为五凉文化中心。北周初置沙州，564年为鸣沙县，属敦煌郡，因鸣沙山得名。
隋朝初废郡置瓜州，初期敦煌被游牧民族突厥及吐谷浑占据。隋炀帝即位后，出兵击破吐谷浑，西突厥也被迫投降，重新控制敦煌，丝绸之路再度打通。大业三年（607年）复置敦煌郡，罢鸣沙县复名敦煌县。
唐朝武德二年（619年）置沙州，敦煌进入兴盛时期。建中二年（781年），为吐蕃占领，唐宣宗大中二年（848年），沙州人士张议潮募兵集众起义，经过血战夺回敦煌城，使河西地区重归唐王朝，大中五年（851年）唐廷在敦煌设置归义军，并任命张议潮为敦煌归义军节度使。
后梁末帝朱友贞乾化二年（914年）敦煌迎来一位新的统治者曹议金。他主张与近邻修好并大力农牧业，使敦煌恢复了一派繁华的景象，莫高窟的开始了一个以大洞窟开凿为主的时代。
北宋景祐三年（1036年）敦煌为西夏占领，统治敦煌达191年。元灭西夏后，于至元十四年（1277年）复设沙州。1280年升为沙州路总管府，隶属甘肃行中书省。明朝永乐三年（1405年）改为沙州卫，后增设罕东左卫。
嘉靖七年（1528年）因叶尔羌汗国攻击，关闭嘉峪关，从此瓜州、沙州成为叶尔羌汗国领土。
清朝雍正元年（1723年）设沙州所，旋升为沙州卫。雍正四年（1726年），从甘肃56州县移民2400多户到沙州屯垦。乾隆三十五年（1760年）改为敦煌县。1949年9月28日敦煌为中国共产党控制，10月7日成立敦煌县人民政府，属酒泉地区。
1986年被国务院列为国家历史文化名城。1987年9月28日撤县设敦煌市（县级），隶属于地级酒泉市。
敦煌位于古代中国通往西域、中亚和欧洲的交通要道——丝绸之路上，曾经拥有繁荣的商贸活动。境内有汉代所筑的两座长城关隘玉门关和阳关，均为军事要塞，是汉唐王朝和西域的分界点
