李渊本来是隋王朝的贵族，靠继承祖上的爵位，当上了唐国公。公元617年，隋炀帝派他到太原去当留守（官名），镇压农民起义，开始他也打过几个胜仗，后来看到起义军越打越强，越打越多，他也感到紧张起来了。
李渊有四个儿子。第二个儿子李世民那时候刚十八岁，是个很有胆识的青年，平时喜欢结交有才能的人。人们也觉得他慷慨好客，喜欢跟他打交道。他看准隋朝的统治长不了，心里早有了自己的打算。
晋阳（今山西太原）县令刘文静，十分看重李世民。李世民也把他看作知心朋友。刘文静跟李密有亲戚关系。李密参加起义军以后，隋炀帝下令捉拿李密亲友。刘文静受到株连，被革了职，关在晋阳的牢监里。
李世民听到刘文静坐了牢，十分着急，赶到牢监里去探望。
李世民拉着刘文静的手说：“刘大哥，我来探望，不但是为了叙叙友情，主要是想请您帮我出个主意。”
刘文静早就知道李世民的心思。他说：“现在皇上远在江都，李密逼近东都，到处都有人造反。这倒是打天下的好时机哩。我可以帮您收集十万人马，您父亲手下还有几万人。如果用这支力量起兵，打进长安，号令天下，不出半年，可以取得天下。”
李世民高兴地说：“您真说到我心里去了。”
李世民回到家里，想想刘文静的话，越想越觉得有道理。但是要说服他父亲，倒是个难题。正好在这个时候，太原北面的突厥（我国古代北方民族之一）可汗进攻马邑。李渊派兵抵抗，连接打败仗。李渊怕这件事给隋炀帝知道了，要追究他的责任，急得不知道该怎么办。
李世民抓住这个机会，就找李渊劝他起兵反隋。李渊一听，吓得要命，说：“你怎么说出这种没上没下的话来。要是我去报官，准会把你抓起来。”
李世民并不害怕，说：“父亲要告就去告吧，儿才不怕死呢。”
李渊当然不会真的去告发，只是叮嘱他以后别说这样的话。
第二天，李世民又找李渊说：“父亲受皇上的委派，到这里讨伐反叛的人。可是眼看造反的人越来越多，您能讨伐得了？再说，皇上猜忌心很重，就算您立了功，您的处境更加危险。只有照我昨天说的办，才是唯一的出路。”