唐太宗和魏征，一个是千古名君，文治武功，在历代帝王中名列前茅；一个以直谏敢言著称，是中国史上最负盛名的谏臣。一个大肚能容，虚怀若谷，一个直言敢谏，提出“兼听则明，偏信则暗”、“君，舟也，民，水也。水能载舟，亦能覆舟。”等治世名言。君臣相得，共创了一段盛唐佳话。
魏征死后，唐太宗悲伤不已，亲临祭奠，痛哭失声，并说：“夫以铜为镜，可以正衣冠；以古为镜，可以知兴替；以人为镜，可以明得失。朕常保此三镜，以防己过。今魏征殂逝，遂亡一镜矣。”李世民“废朝五日”，并亲笔撰写碑文，可谓极尽哀荣。然而，不到半年，李世民又亲口下令，毁掉了魏征的碑，留下一段千古谜案。后世多指责李世民，认为魏征直言正谏了一辈子，让李世民窝火不少，于是死后砸魏征碑以泄愤。其实大家都是错怪李世民，其错主要不在李世民，魏征确实犯下了很大的政治和个人错误。
首先，他犯有严重的政治错误。魏征曾经力荐杜正伦和侯君集，认为他们有宰相之才。因为魏征的推荐，杜正伦被提拔为兵部员外郎，后又改任为太子左庶子，相当于中央军委副参谋长之类的重职；侯君集也官至检校吏部尚书，相当于组织部长了。魏征死后，他俩都因牵连到太子李承乾谋反事件之中，一个被流放，一个下狱被杀。一个谋反尚情有可原，但这两人的谋反都是魏征举荐后不久，魏征难辞其咎。当时的舆论普遍认为魏征此举有暗结同党之嫌。
其次，他犯有严重的纪律和道德错误。魏征把他的一些“谏争记录”交给了史官褚遂良，意思是让史官传诸后世。有人说太宗生气是因为怕这些东西有损自己形象，这或许是一个原因，但国家是有制度的，史官就负有整理皇帝奏章资料的责任，内部的资料传递有严格的流程，保密的资料不是准大臣自己交给史官的。否则，这些资料不经皇帝核实，一一记录在案，会为后世的政治运作留下严重的分裂隐患。魏征这种做法，就是想踩着皇帝的肩膀青史留名，这不仅是道德问题，还有个严肃的纪律问题。
贞观十九年，唐太宗率军亲征高丽，战事不利，给养供应不足，被迫撤军。唐太宗在班师回来的路上，很后悔这一次军事行动，这时他想起了魏征，就对大家说：“魏征若在，不使我有是行也！”命驰驿祀魏征以少牢，复立所制碑召其妻子诣行在，劳赐之。还以少牢的大礼祭奠魏征，重新立起推倒的墓碑，恢复了他的声誉和待遇。不过那位答许给魏征儿子的衡山公主，已经另嫁他人，无法再改正过来。