天辅四年，金决意攻取辽上京（今内蒙古巴林左旗南），上京留守挞不野投降。天祚帝逃往中京（今内蒙古宁城西大名城），金班师。天祚帝在中京大定府，闻辽军败，"昼夜忧惧，潜令内库三局官打包，珠玉珍玩五百余囊，骏马二千匹"，准备逃跑。他还厚颜无耻地说：假若女真军来时，我怕什么，我有很多日行三百五十里的骏马，又与宋是兄弟，和西夏也是舅甥关系，两处都可以去，到那里也不失一生富贵。但当他又听到金军已班师未来进攻时，却又洋洋得意地说："威德可加，彼何能为，复自纵肆。"这是一张令人可憎的丑恶的亡国者脸谱。
金破辽上京，捣毁了辽朝统治的中心，占有辽过半的土地，金抗辽斗争已取得彻底胜利，即将使金对辽的战争发生转折性的变化。天辅五年（辽保大元年，1121），辽都统耶律余覩来降，得辽虚实。耶律余覩降金，标志着辽契丹贵族内部的分裂，现在的形势已不再是抗辽，而是如何把统一（辽境的）战争进行下去的问题。由金太祖所领导的对辽战争，从此便转向第二个时期的灭辽统一战争。
金太祖以斜也为内外诸军都统，以完颜昱、宗翰、宗幹、宗望、宗磐为副，率大军伐辽。下诏："辽政不纲，人神共弃。今欲中外一统，故命汝率大军以行讨伐。"又诏："若克中京，所得礼乐仪仗国书文籍，并先次津发赴阙。"以前的对辽战争是"重吊伐之义"，与民除害，现在则是"欲中外一统"，得辽神器代而统治之。
天辅六年，金军攻克高（今内蒙古赤峰东）、恩（今赤峰南）、回纥（亦当在今赤峰一带）三城，取中京，进据泽州（今河北平泉南）。天祚帝逃往鸳鸯泊（今河北张北西北），斜也与宗翰分道追捕，天祚帝又逃到西京（今山西大同）。金军占领西京后，进而招降了天德（今内蒙古乌拉特前旗北）、云内（今土默特左旗东南）、宁边（今准格尔旗东）、东胜（今托克托）等州、军。原奔逃在辽的纥石烈部长阿踈被擒。天祚帝又逃入夹山（今萨拉齐西北）。六月，金太祖从上京出发，追击天祚帝到大鱼泊（当即鱼儿泺，今内蒙古克什克腾旗西达来诺尔湖），天祚帝又逃去。十二月向燕京（辽南京，今北京）进发，此时燕京小朝廷耶律淳已死，萧德妃出奔，燕京降。金占领燕京，一方面履行与宋订的和约，把燕京六州之地与宋。斡鲁、宗望等继续追捕天祚帝。另一方面，由于已占领原辽汉人的燕云地区，在统治制度上不得不适应新的变化作出新的改变，即在原辽汉人地区仍行汉制，由过去较为单纯的推行猛安谋克制，改为南北面的两种制度并存。天辅七年，金太祖以左企弓为枢密使，设枢密院于广宁（营州治所，今河北昌黎）；改平州（今卢龙）为南京，以张觉为留守，后张觉据南京城叛金，杀左企弓。
同年八月，金太祖死，弟吴乞买即位，是为太宗，基本上继承太祖事业，继续平定张觉，张觉叛军被宗望平定，张觉逃奔于宋。张敦固以南京降，复叛，阇母则执杀张敦固。宗望以平州为鉴，奏请不在汉人地区推行猛安谋克制，保留汉制，与知枢密院事刘彦宗共同裁决大事。
抚夏灭辽
金对当时西北的西夏没有出兵，主要是争取其对金称藩。天会二年（西夏元德五年），金太宗命宗翰、宗望与西夏商议割地议和，把下寨以北、阴山以南的原辽地割给西夏。西夏向金上誓表称臣，接受金朝的主属。
金太宗即位之初，对宋朝守太祖的命令，与西夏议和，这主要是为稳定南京（原平州）的形势以及进一步擒捉辽天祚帝，这是当时灭辽所需要的，也是为巩固金代辽而统治所需要的。金对宋不断派遣使臣通好。
天会二年（辽保大四年）十月，辽天祚帝想逃往天德军，进驻应州西余睹谷。完颜娄室派兵追击。天会三年三月二十日（1125年3月26日），天祚帝被擒，辽亡。金派李用和等充告庆使如宋。金封天祚帝为海滨王，居于长白山东，天会六年（1128）病死。
金灭辽后，继辽与宋对峙。金与辽不同，是个新兴起的政权，这个政权的出现和发展使当时南北双方的政治关系发生了新的变化。当时亦不再是金宋夹攻灭辽，而是金代辽与北宋的和战问题。金代辽而为宗主。
