处被女真战败，与此同时辽朝国内也发生叛乱，耶律章奴在上京叛乱，虽然这场叛乱很快就被平定，但是这场叛乱分裂了辽朝内部。此后位于原渤海国的东京也发生高永昌叛乱自立。这场叛乱一直到1116年（天庆六年）四月才被平定。但是在五月女真就借机占领了东京和沈州。1117年（天庆七年）女真攻春州，辽军不战自败。这年完颜阿骨打自称皇帝，建立金朝。
耶律淳（宣宗康帝）称帝
保大二年（1122年），天祚帝被金兵所迫，流亡夹山；三月，耶律淳在燕京被耶律大石、李处温等人拥立为皇帝，是为北辽的开始，百官上尊号为天锡皇帝，改年号建福元年，降天祚皇帝为湘阴王，并遣大使奉表于金国，乞为附庸。可是事未完成，他就病死，妻德妃称制，改年号为德兴。
此时大臣李处温父子觉得前景不妙，打算向南私通宋的童贯，欲劫持德妃纳土于宋。向北私通金人，作金的内应。后她发现他私通宋、金的罪行把他拘捕并赐死。当年十一月，德妃五次上表给金朝，只要允许立耶律定为北辽皇帝，其他条件均答应，金人不许，她只好派兵把守居庸关，没能守住，金兵直奔燕京。德妃带著随从的官员投靠天祚帝，天祚帝将他诛杀。
天祚帝被俘
1120年（天庆十年），金攻克辽上京，留守萧挞不也投降。到1121年（保大元年），辽已经失去了其地盘之半。而辽朝内部又发生了因为皇位继承问题而爆发的内乱，天祚帝杀他的长子耶律敖鲁斡。这使得更多的辽军感到不安而投靠金朝。1122年正月，金攻克辽中京。由于战场上消息不通，辽朝内部又以为天祚帝在前线阵亡或被围，于是在燕京立耶律淳为皇帝，进一步扩大了辽朝内部的混乱。而辽朝的大臣也各不自保，有的与北宋大臣童贯通气打算投降宋朝的，有的则想投降金朝。十一月居庸关失守，十二月辽南京被攻破。1123年（保大三年）正月，在上京的回离保（萧干）叛金，八月平定。
1124年（保大四年），天祚帝已经失去了辽朝的大部分土地，他自己退出漠外，他的儿子和家属大多数被杀或被俘，虽然他还打算收复首府燕州和云州，但是实际上他已经没有多少希望了。1125年（保大五年）二月，天祚帝在应州被俘，八月被解送金上京（今黑龙江省阿城县白城子），被降为海滨王。1128年，天祚帝病故，遗臣萧术者对故主行人臣之礼。契丹和辽共历时210年，历经9位帝王。
大辽的延续─西辽
此后，辽代贵族耶律大石（德宗元帝）在西北召集残部，控制了蒙古高原和新疆东部一带。1130年，由于受到金兵的压迫，大石决定放弃蒙古高原，率部西征。1132年，大石在叶迷立（今新疆额敏）称帝，年号延庆，称菊儿汗。建立西辽帝国（即黑契丹Karakitai），首都虎思斡鲁朵，史称西辽，曾一度扩张到中亚，成为中亚强国。1143年，大石死后，经历萧塔不烟、耶律夷列（仁宗明帝）、耶律普速完、耶律直鲁古（平宗静帝）、屈出律的统治。1218年被成吉思汗的蒙古帝国军队灭亡，立国凡87年。至此辽的国祚才彻底终结。
疆域区划
契丹国初期的疆域在今辽河流域上游一带，在阿保机及德光时期不断对外扩张，阿保机时征服奚（今河北北部）、乌古、黑车子室韦（今内蒙古东部呼伦湖东南）、鞑靼、回鹘、渤海国。德光时取得燕云十六州，并一度占有中原。
辽全盛时，疆域东北至今日本海黑龙江口，北至蒙古国中部的楞格河、石勒喀河一带，西到阿尔泰山，南部至今天津市的海河、河北省霸县、山西省雁门关一线与北宋交界，与当时统治中原江南的宋朝相对峙。
的体系大体上是道、府（州）、县三级。共有5京、6府，156州、军、城，309县（根据《辽史?地理志》。
辽分5个道，每个道有一个政治中心，称为京，并以京的名称来命名道。
上京道治上京临潢府（今内蒙古巴林东南波罗城），辖以西拉木伦河流域为中心的契丹本土。
中京道治中京大定府（今内蒙古宁城西大明城），辖原奚族本土。
东京道治东京辽阳府（今辽宁省辽阳市），辖原东丹国地区。
南京道治南京析津府（今北京市西南），辖今海河、大清河以北，及长城以南、河北、北京、天津部分地域。
西京道治西京大同府（今山西省大同），辖今山西和内蒙古交界处。
1007年辽圣宗建中京大定府，自临潢迁都于此。1044年辽兴宗升云州为西京大同府。
道下设府、州、军、城4种政区，为同一级别。
府（1）京府：临潢府、大定府、辽阳府、析津府、大同府。（2）率宾府、定理府、铁利府、安定府、长岭府、镇海府、兴中府（1041年升霸州置，今辽宁朝阳），这7府的地位比京府略低。州分等，从高依次为：节度州、观察州、防御州、刺史州。县还设有与县同级的州、军、城。