东海太守濮阳县人汲黯担任主爵都尉。当初，汲黯担任谒者，因他为人威严而被大家敬畏。他在东海郡时，整肃官吏，治理百姓，喜好清静无为，谨慎地选择郡丞和各曹掾史，然后放手任用，他只关注大事，不苛求细枝末节。汲黯身体多病，躺在内室中不出门；过了一年多，东海郡治理得很好，百姓交口称赞汲黯。武帝听到了，召汲黯入朝，担任主爵都尉，地位与九卿相同。他处理政务，主张清静无为，从大的方向引导，不拘泥法令条文。
汲黯为人，性情倨傲，缺少礼数，当面使人难堪，不能容忍别人的过失。当时武帝正招揽文学之士和儒家学者，武帝说：“我想要怎样怎样。”汲黯应声回答说：“陛下心中藏着许多欲望，而表面上却做出施行仁义的样子，怎么可能效法唐尧虞舜那样的治绩呢！”武帝沉默不语，接着勃然大怒，脸色很难看地宣布结束朝会，公卿大臣都替汲黯担忧。武帝退朝回到内宫，对左右侍从说：“汲黯的愚笨刚直也太过分了！”群臣中有人责备汲黯。汲黯说：“天子设立公卿等辅佐大臣，难道是让他们阿谀奉承，使君主陷入不仁不义的境地吗？况且，我既然已经处在公卿的位置上，如果只想顾全自身性命，那就会使朝廷蒙受耻辱，那怎么办！”汲黯身体多病，病假将要接近三个月的限期了，武帝多次特许延长他休病假的时间，还是没有痊愈。最后病重时，庄助替他请假。武帝说：“汲黯这个人怎么样呢？”庄助说：“让汲黯任职当官，没有什么超越常人的才能；但要说到让他辅佐年幼的君主，会坚定不移地维护祖先基业，有人以利禄引诱他，他不会前去投靠，君主严辞苛责地驱赶他，他也不会离去，即使有人认为像孟贲、夏育那样勇猛无敌，也无法改变他的耿耿忠心！”武帝说：“说得对。古时有所谓的社稷之臣，说到汲黯，就很接近了！”
当时，汉武大帝对卫青的尊崇宠信超过了任何一位朝廷大臣，三公、九卿及以下官员都对卫青卑身奉承，唯独汲黯用平等的礼节对待卫青。有人劝汲黯说：“皇上想让群臣全都居于大将军之下，大将军地位尊贵，您不可以不下拜。”汲黯说：“以大将军的身份，有向他行揖礼而不拜的宾客，（这样能降贵礼士，）声望怎么会反而不加重呢！”卫青得知，越发觉得汲黯贤明，多次向汲黯请教国家和朝廷的疑难大事，对待他比平日更为尊重。卫青虽然地位尊贵，但有时入宫，汉武大帝就坐在床边接见他；丞相公孙弘大汉武大帝空闲时谒见，没武帝有时不戴帽子；至于汲黯谒见时，汉武大帝没戴上帽子就不接见。有一次，汉武大帝正坐在陈列兵器的帐中，汲黯前来奏事，汉武大帝当时没戴帽子，远远望见汲黯，急忙躲入后帐，派人传话，批准汲黯所奏之事。汲黯受到的尊重和礼敬就是这样的。
汉武大帝召来汲黯，任命他为淮阳太守。汲黯辞行以后，拜访大行令李息，说道：“我被弃置到地方郡县，不能再参预朝廷议事了。御史大夫张汤，其智谋足以拒绝规劝，狡诈足以掩饰错误，专门说乖巧、奸佞的话，用辞诡辩，不肯为天下正事发言，一心迎合主上的意思。凡是主上所不喜欢的，他就跟着毁谤；凡是主上所喜欢的，他就跟着称赞。他还爱制造事端，玩弄法律条文，心怀奸诈以左右主上的心意，依靠不法官吏来建立自己的威望。你身居九卿高位，如不早加揭露，您恐怕会与张汤一同受到惩处。”李息因惧怕张汤权势，始终未敢开口。及至张汤倒台时，汉武大帝将李息一同治罪。
汉武大帝给予汲黯诸侯国相的待遇，命其居守淮阳，十年后去世。
