唐太宗即位初期，中原战事虽然结束，但西边边境上还很不安定。特别是东突厥，当时还很强大，成为唐朝主要的威胁。太原起兵以后，唐高祖一心对付隋朝，只好靠妥协办法，维持了和东突厥的和好关系，但东突厥贵族仍旧不断侵扰唐朝境界，闹得地方不得安宁。
唐太宗即位不满二十天，东突厥的颉利（颉音ｊｉé）可汗率领人马十多万，一直打到离长安只有四十里的渭水边。颉利以为唐太宗刚即位，未必敢抵抗，他先派出使者进长安城见唐太宗，扬言突厥兵一百万，马上开到。
唐太宗是见过世面的人，他不理颉利的威胁，把使者扣押起来。他先布置长安的唐军摆开阵势。接着，又亲自带了房玄龄等六名将领，骑马到渭水边的便桥，指名要颉利出来，隔河对话。
颉利听说使者被扣，已经有点吃惊；再看到太宗亲自上阵，后面唐军旌旗招展，军容整齐，不禁害怕起来。他带着突厥将领在渭水对岸，下马拜见太宗。
唐太宗隔着渭水对颉利说：“我们两家早已订立盟约，几年来也没有少给你们金帛，为什么要背信弃义，带兵进犯？”
颉利被责备得无话可说，表示愿意讲和。过了两天，双方在便桥上订立盟约。接着，颉利就退兵了。
打这以后，唐太宗加紧训练将士，每天召集几百名将士在殿前练习弓箭。他跟将士们说：“外敌进犯，这是常有的事，并不可怕。怕只怕边境稍为安定，人主就贪图安逸，忘记战争，敌人来了就抵挡不了。从现在起，平时我做老师，教你们弓箭；战时我当将帅，带领你们抵抗敌人。”
经过唐太宗的鼓励，将士专心练武，不出几年，就训练出一批精锐军队。
第二年，北方下了一场大雪。东突厥的牲畜死了不少。大漠以北发生饥荒。颉利可汗加紧对其他部族的压迫，又引起各部族的反抗。颉利派他的堂兄弟突利去镇压，反被打得大败。突利逃回去后，被颉利责打一通。两人因此翻了脸，突利投降了唐朝。
唐太宗抓住这个时机，派出李靖、徐世勣等四名大将率领大军十多万，由李靖统率，分路出击突厥。
李靖是唐朝初年有名的军事家，精通兵法。他在隋朝末年归附唐朝，在唐朝统一战争中，立了不少战功。
公元630年，李靖亲自率领三千精锐骑兵，从马邑出发，趁颉利不防备，连夜进军，逼近突厥营地。颉利毫无防备，发现唐军突然出现，大惊失色。将士们也慌了手脚，说：“这次一定是唐朝发动全国兵力来了，要不然，李靖怎敢孤军深入呢？”