宋太祖花了十三年工夫，灭了南方五国，接着，就出兵攻打北汉都城太原。北汉请辽朝出兵援助，宋军吃了败仗。不久，宋太祖也得病死去，他的弟弟赵匡义继承皇位，这就是宋太宗。
宋太宗决心完成统一北方的事业，公元979年，他亲自率领四路大军围攻北汉都城太原。辽军又来援助，宋太宗派兵截断援兵要道。太原城在宋军重重包围之中，外无援兵，内无粮草。北汉国主刘继元没法，只好投降。刘继元手下有一名老将杨业，也归附宋朝。宋太宗早就听说杨业武艺高强，十分器重他，任命他做大将。
宋太宗灭了北汉，想乘胜攻打辽朝，收复北方失地。宋军攻势凌厉，北方有几个州的辽朝守将纷纷投降。宋军一直打到幽州（今北京市）。后来，辽朝派大将耶律休哥救援。双方在高梁河（今北京市城西）打上一仗，宋兵大败，宋太宗乘了一辆驴车，逃回东京。
打那以后，辽军不断袭击宋朝边境。宋太宗十分担心，就派杨业为代州刺史，扼守雁门关。
公元980年，辽朝派了十万大军攻打雁门关。那时候，杨业手下只有几千人马，兵力相差很大。杨业是个有经验的老将，知道靠硬拼是不行的，就把大部分人马留在代州，自己带领几百名骑兵，悄悄地从小路绕到雁门关北面敌人后方。
辽兵向南进军，一路上没遇到抵抗，正在得意。忽然，后面响起一片喊杀声，只见烟尘滚滚，一支骑兵从背后杀来，像猛虎冲进羊群一样，乱砍猛杀。辽兵毫无防备，又弄不清后面来了多少人马，个个心惊胆战，阵容大乱，哪儿还抵挡得了，纷纷向北逃窜。杨业带兵追赶上去，杀伤大批辽兵，还杀死了一名辽朝贵族，活捉了一员辽将。
雁门关大捷以后，杨业威名远扬。辽兵一看到“杨”字旗号，就吓得不敢交锋。人们给杨业起了个外号，叫做“杨无敌”。
杨业立下大功，也引起一些边防将领的妒忌。有人给宋太宗上奏章，说了杨业许多坏话。宋太宗正要依靠杨业，不理睬那些诬告，把那些奏章封好了，派人送给杨业。杨业见宋太宗这样信任他，自然十分感动。
过了几年，辽景宗耶律贤死去，即位的辽圣宗耶律隆绪才十二岁，由他的母亲萧太后执政。有个边将向宋太宗上奏章，认为辽朝政局变动，正好趁这个机会收复燕云十六州失地。宋太宗接受了这个意见。公元986年，宋太宗派出曹彬、田重进、潘美率领三路大军北伐，并且派杨业做潘美的副将。
三路大军分路进攻，旗开得胜。潘美、杨业的一路人马出了雁门关，很快就收复了四个州。但是曹彬率领的主力因为孤军深入，后来被辽军杀得大败。宋太宗赶快命令各路宋军撤退。
潘美、杨业接到命令，就领兵掩护四个州的百姓撤退到狼牙村。那时候，辽军已经占领寰州（今山西朔县东，寰音ｈｕáｎ），兵势很猛。杨业建议派兵佯攻，吸引住辽军主力，并且派精兵埋伏在退路的要道，掩护军民撤退。
监军王侁（音ｓｈēｎ）反对杨业的意见，说：“我们带了几万精兵，还怕他们？我看我们只管沿着雁门大路，大张旗鼓地行军，也好让敌人见了害怕。”