二月十五日，太宗率军由东京出发，三月进至镇州，分兵攻打盂县、沁州、汾州、岚州等太原外围州县，以断其增援。同时郭进军已进至石岭关，当关扎下营栅，摆开阵势。北汉主刘继元闻报宋兵压境，便施故技，先急遣使赴辽求援。辽帝接报，遂命南府宰相耶律沙为都统，冀王敌烈为监军，率兵援救北汉。耶律沙率军日夜兼程，进至白马岭，与郭进阻援部队相遇，两军隔涧对峙。耶律沙欲等后续部队到齐后再战，敌烈却坚执立即进攻，于是抢先渡涧进攻宋军。郭进军乘其半渡突然出击，斩敌烈等五员大将，歼辽兵万余，辽军余众仓皇逃走。辽国北院大王耶律斜轸率军赶到，万箭齐发，宋军始退，方救了耶律沙残部。北汉再次派人向辽这求援，但使者皆被郭进军捉住，并在太原城下诛杀，以涣散守将信心。刘继业建议固守，待宋军师老兵疲之时寻机歼敌，北汉主刘继元不听，却使刘继业去守古城，自派别将潜师出击，却被宋军击败，几乎全军覆没。刘继元后悔不及，只得据城固守。
宋军击破辽军之援，除却后顾之忧，于是乘势全线进攻。四月中旬，盂县、隆州、岚州等地均被宋军攻占，宋太宗率军前至太原，以数十万大军集兵围城。二十三日，赵光义巡城抚慰诸将，并致书招降北汉主刘继元，却被拒绝。二十四日夜，宋太宗至城西亲督诸将攻城，又未攻克。五月初一，又督诸将急攻城西南隅护围羊马城，铁骑军指挥使呼延赞最先持鞭挺矛登上城楼，战斗中从城上矮墙掉下四次，皆跳起再登，奋不顾身。北汉宣徽使范超终支吾不住，只得出降，羊马城遂陷。宋太宗大喜，当众对呼延赞赏以金帛，厚加奖励。宋太宗次日又至城西北隅亲自督战，北汉马步军都指挥使郭万超等先后出降。
由此太原城破了两角外城，宋太宗便至城南，再次招降汉主不果，便令部将挥军猛烈攻城。北汉驸马都尉贞俊在代州再向契丹告急，辽帝耶律贤因辽军在白马岭新败，不肯再发救兵。宋太宗乃下令决汾水灌城，太原城内一片汪洋，军民皆断炊绝粮。刘继元见外无援兵，内无斗志，遂先遣使出城奉表献玺，得宋太宗准许之后，自于五月初六出城投降。宋太宗命转运使刘保勋主持太原政务，封刘继元为右上将军、彭城郡公。由此北汉灭亡，历二世四帝，国祚二十九年。太宗虑其太原城坚难克，为根除之患，命拆毁太原城。
宋太宗见降将中并无刘继业，便问汉主刘继元道：“我闻你军中有金刀令公刘无敌者，屡抗我宋师，今日如何不见？”刘继元含羞带愧道：“是因罪臣不纳其谏，又复嫌其碍事，遣去把守晋阳古城了。”太宗又问潘美，方知古城尚未攻克，宋军在城下损兵折将。于是便令刘继元道：“孤素闻刘继业其名，卿可亲去古城招他来降，若不从时，玉石俱焚。”汉主此时身为阶下之囚，自然奉命而往，到城下招降。刘继业见汉主已为人虏，遂在城头大哭一场，遂率妻折氏，长子杨延昭亦名杨延朗，次子杨延玉，三子杨延浦，四子杨延训，五子杨延瑰，六子杨延贵，七子杨延彬，随了故主刘继元，举家前来太原，拜在宋太宗阙下。赵光义大喜道：“孤此番出兵，不喜得太原，乃喜得无敌将军也。”于是准其复归本姓，改名杨业，拜为郑州刺史，授右领军卫大将军。其后因其熟悉北边军情，并与契丹辽兵作战三十余年，遂又迁云州观察使、代州刺史兼三交驻泊兵马部署，令把守雁门关。
太平兴国四年五月，北汉既灭，宋太宗并不还师汴京，遂乘平定太原余威，即命移军北上，进攻辽南京幽都府。使武功郡王赵德昭随征，复起用老将石守信，使督前军。于是宋辽双方对峙，东起泥姑口，西沿拒马河信安军、霸州、容城，然后折向西北至飞狐及灵丘以南，直达代州雁门。此线以北为辽国所制幽云十六州，太行山东北麓檀、顺、蓟、幽、涿、莫、瀛称为山前七州，太行山西北儒、妫、武、新、云、朔、寰、应、代称为山后九州。辽国派大丞相、南京留守韩德让与大将耶律斜珍率兵防守幽州，另在隋唐蓟城基础上对幽州进行大规模扩建，从而使幽州城成为军事重镇，方圆三十六里，城高三丈、宽一丈五，人口三十万。宋军在消灭北汉时，便在太原集结数十万部队，太宗乃命自镇州转兵北上，齐奔幽州。只是太宗初为皇帝，建功心切，却忽略至为关键一层，便是军心士气。众将士三军自破太原，死中得活建立灭国盖世大功，哪一个不思封妻荫，光耀门楣？大战之后莫说休整放假，便连犒赏三军之事亦尚未行，便令北伐契丹。故此诸军兵将多不愿行，只是无人敢说。
赵光义如今聚集诸将，发布北代辽国命令之时，众人皆沉默不语，惟有殿前都虞侯崔翰顺从帝意，极力赞成道：“兵法有云：所当乘者，势也；不可失者，时也。乘此破竹之势，取之甚易也。”赵光义闻言大喜，当即下令枢密使曹彬调发各地屯兵。当时宋军诸将大多积年带兵，更比赵光义冷静，明知其不可为，但不敢直谏，便以大军云集，粮储不及为请。赵光义却立即下诏，发京东、河北诸州军储，限期转运至镇州北面行营，以备供应。当时扈从六军，有未按时到达指定地点集结者，赵光义大怒，便要按军法处置，被臣下以出兵不亦杀将谏阻。相对宋军仓促发兵而言，辽国对燕云十六州防守其实早有部署，严阵以待。在宋军进攻北汉，韩侼、耶律善布、耶律沙等救援太原之时，辽主耶律贤已增派北院大王耶律奚底、将领萧讨古、乙室王撒合率兵戍守燕地，早已料到宋军可能乘胜来攻。当时辽国在幽州常驻汉兵，有神武、控鹤、羽林、骁武等军，共约一万八千余骑；又有其所属将帅契丹、九女、达奚、南北皮室当值舍利，约有二千骑。若调集东京辽阳府、中京大定府诸路兵，则兵力可达二十余万，乃未经太原激战，以逸待劳，皆可以一当十名宋国疲兵者。兵法有云：“知己知彼，百战不殆。”赵光义所犯最大失误，恐非以久战疲惫之兵来攻以逸待劳之师，而是不知对手深浅，单挟战胜北汉余威而自傲轻敌也。书中暗表，当时辽国乃是景宗在位，名唤耶律贤字贤宁，是辽世宗耶律阮次子，早已承袭帝位十年，契丹国力大增，已非当年“睡王”穆宗之时矣。正是：沧海桑田多变换，休将今日比当年！欲知后事如何，且听下回分解。
