玄武门之变后，有人向秦王李世民告发，东宫有个官员，名叫魏征，曾经参加过李密和窦建德的起义军，李密和窦建德失败之后，魏征到了长安，在太子建成手下干过事，还曾经劝说建成杀害秦王。
秦王听了，立刻派人把魏征找来。
魏征见了秦王，秦王板起脸问他说：“你为什么在我们兄弟中挑拨离间？”
左右的大臣听秦王这样发问，以为是要算魏征的老账，都替魏征捏了一把汗。但是魏征却神态自若，不慌不忙地回答说：“可惜那时候太子没听我的话。要不然，也不会发生这样的事了。”
秦王听了，觉得魏征说话直爽，很有胆识，不但没责怪魏征，反而和颜悦色地说：“这已经是过去的事，就不用再提了。”
唐太宗即位以后，把魏征提拔为谏议大夫（官名），还选用了一批建成、元吉手下的人做官。原来秦王府的官员都不服气，背后嘀咕说：“我们跟着皇上多少年。现在皇上封官拜爵，反而让东宫、齐王府的人先沾了光，这算什么规矩？”
宰相房玄龄把这番话告诉了唐太宗。唐太宗笑着说：“朝廷设置官员，为的是治理国家，应该选拔贤才，怎么能拿关系来作选人的标准呢。如果新来的人有才能，老的没有才能，就不能排斥新的，任用老的啊！”
大家听了，才没有话说。
唐太宗不记旧恨，选用人才，而且鼓励大臣们把意见当面说出来。在他的鼓励之下，大臣们也敢于说话了。特别是魏征，对朝廷大事，都想得很周到，有什么意见就在唐太宗面前直说。唐太宗也特别信任他，常常把他召进内宫，听取他的意见。
有一次，唐太宗问魏征说：“历史上的人君，为什么有的人明智，有的人昏庸？”
魏征说：“多听听各方面的意见，就明智；只听单方面的话，就昏庸（文言是‘兼听则明，偏听则暗’）。”他还举了历史上尧、舜和秦二世、梁武帝、隋炀帝等例子，说：“治理天下的人君如果能够采纳下面的意见，那末下情就能上达，他的亲信要想蒙蔽也蒙蔽不了。”
唐太宗连连点头说：“你说得多好啊！”
又有一天，唐太宗读完隋炀帝的文集，跟左右大臣说：“我看隋炀帝这个人，学问渊博，也懂得尧、舜好，桀、纣不好，为什么干出事来这么荒唐？”
魏征接口说：“一个皇帝光靠聪明渊博不行，还应该虚心倾听臣子的意见。隋炀帝自以为才高，骄傲自信，说的是尧舜的话，干的是桀纣的事，到后来糊里糊涂，就自取灭亡了。”唐太宗听了，感触很深，叹了口气说：“唉，过去的教训，就是我们的老师啊！”