对魏征这个人，唐太宗李世民是又爱又恨的，接受魏征的直言进谏，有时会稿得自己很是没有面子；不接受魏征的进谏，又可能会影响治国理政之大事。
有一次，魏征进谏，言辞激烈，伤了唐太宗的面子。唐太宗回到后宫，大为恼火，说：“总有一天我要杀了这个乡巴佬！”长孙皇后为此却向唐太宗祝贺道：“今天魏征能直言不讳，正说明遇上了明主，我自当祝贺。”唐太宗不觉转怒为喜，厚待魏征如初。
对于这样一位能直言进谏的大臣，李世民对魏征是视若珍宝的。后来魏征去世，唐太宗十分痛心地说：“人以铜为镜，可以正衣冠；以人为镜，可以知得失。魏征死了，我失去了一面镜子！”此后，魏征进谏的事情，再也不会发生在李世民的身边了，他也失去了一面映照自己的镜子。
