太宗非常高兴，加以慰抚，恢复他的本姓杨氏，并将其名改为单名“业”。

任命他为左领军卫大将军。

军队回朝以后，任命杨业为郑州防御使。

宋太宗又考虑到杨业对边境的战事很有经验，又改任他任代州知州兼任三交驻泊兵马部署，太宗密封锦囊给他，赏赐的财物非常丰厚。

太平兴国五年（980年）三月，辽景宗发兵十万攻雁门。

杨业领数千骑兵从西陉而出，绕到雁门关以北，往南突袭辽军，与潘美前后夹击，大败辽兵，杀死辽国驸马侍中萧咄李，活捉马步军都指挥使李重诲，是为雁门关之战。

杨业因此被提升为云州观察使，依然兼任郑州、代州的职务。

自此，杨业在辽军中声威大震，契丹人但凡见到杨业旗号，即刻逃遁。

镇戍边疆的主将大多妒忌，有人甚至暗中上书诽谤杨业，宋太宗阅毕后，从不多问，封好奏章交给杨业，以示对其信任。

雍熙三年（986年），宋太宗决定北伐辽国，收复燕云十六州。

以忠武军节度使潘美为云、应路行营都部署，任西路军主将，杨业为副主将，西上阁门使、蔚州刺史王侁，军器库使、顺州团练使刘文裕为护军。

各路大军接连攻下了云州、应州、寰州、朔州四个州，军队驻扎在桑乾河边。

恰逢东路曹彬的部队出师不利，在岐沟关之战中惨败，各路军马都被撤回，潘美等人回到代州。

不久，朝廷下诏把这四个州的百姓迁徙到内地，命令潘美等人带领部下的军队保护百姓。

当时辽朝萧太后和大臣耶律汉宁、南北皮室以及五押惕隐率领军队十多万人，再次攻陷了寰州。

杨业对潘美等人说：“辽兵兵力和士气很旺盛，不能和他们交战，朝廷只是让我们护送这几个州的百姓，只需带领部队从大石路出发，先派人秘密告诉云州、朔州的守将，等到大军离开代州的那天，命令云州的军民先出发，我的部队驻扎在应州，契丹人必然来抵抗，就下令让朔州百姓出城，直接进入石碣谷，派一千弓箭手埋伏在谷口，命骑兵在中路支援，那么三州的百姓，就能够万无一失了。”