张骞归汉之后，汉武帝封张骞为太中大夫，授博望候。张骞作为西域的活地图，在后来的汉匈战争中也参与了一系列的军事活动，常常与、霍去病、李广同行。
元朔六年（前123年）二月和四月，大将军卫青，两次出兵进攻匈奴。汉武帝命张骞以校尉，从大军出征。
元狩二年（前121年），张骞奉命与“飞将军”李广，率军出右北平（今河北东北部地区）。
史载“元授二年，因伐匈奴左贤王，迟援将军李广，使李广所率四千将伤亡殆尽，以罪失爵，博望侯国除”。
这一次的除官对张骞来说打击应该不小，因为这之后没两年，他就去世了。
张骞（约前164年－前114年），字子文，汉中郡城固（今陕西省汉中市城固县）人，中国汉代杰出的外交家、旅行家、探险家，丝绸之路的开拓者。故里在陕西省汉中市城固县城南2千米处汉江之滨的博望村。张骞富有开拓和冒险精神。西汉建元二年（前139年），奉汉武帝之命，由大汉帝都长安出发，甘父做向导，率领一百多人出使西域，打通了汉朝通往西域的南北道路，即赫赫有名的“丝绸之路”，汉武帝以军功封其为博望侯。
元狩二年(前121年)，张骞再度奉命跟随“飞将军”李广率军出右北平(今河北东北部地区)，进击匈奴。
这一次，命运没有再次青睐张骞：李广带领的四千先头部队贸然深入匈奴腹地，陷入四万匈奴骑兵的围困之中，激战一昼夜杀敌过万人。李广在匈奴人眼中的威名大振，却正是因了这次惨败。
等到张骞带领的万余骑兵将李广救出重围时，主将李广所带领的人马几乎全军覆没；加上张骞带领的骑兵长途跋涉早已人困马乏，没有对四散后撤的匈奴人实施追击，朝廷以“后期”之罪当斩，用侯爵赎罪后，方被贬为庶人。
——张骞就这样急匆匆，灰溜溜地结束了自己的军旅生涯。张骞被封为“博望侯”的短暂经历，却给地处南阳盆地的方城县带来了千古的荣耀。
