开国，仅传二帝，立国十一年，就此灭亡。
耶律德光占据开封后，志得意满，在崇元殿穿汉服，受百官朝贺，改契丹国号为大辽，改元大同，一心想要久居中原，当真正的中原皇帝。可他根本不懂中原的治理之道，反而纵容契丹骑兵四处劫掠，美其名曰“打草谷”。契丹骑兵以牧马为名，分番剽掠，丁壮毙于锋刃，老弱委于沟壑，从东西两畿到郑、滑、曹、濮各州，数百里间，财畜殆尽。中原百姓不堪其扰，纷纷聚众起义，杀辽官、据城寨，反抗之声此起彼伏，连那些原本归顺的州县，也相继倒戈。
耶律德光坐在开封皇宫里，夜夜不得安宁，对着左右契丹大臣长叹道：“我不知中原人如此难制，如今处处皆反，我实在难以久留，只得北归了。”他后来甚至亲口承认自己有三失：打草谷、天下括钱、不遣节度使归藩。
就在契丹铁骑在中原烧杀抢掠的时候，河东节度使刘知远，早已在太原的府衙里，静静地观察着这一切。刘知远本是沙陀部人，早年追随石敬瑭起兵，屡立战功。当年石敬瑭决意割让燕云十六州、向契丹称父时，刘知远就曾极力劝阻，对着石敬瑭说道：“契丹兵强，素无信义，得地之后，必为后患！就算要借兵，厚赂金帛即可，何必割地称臣，自辱至此！”可石敬瑭一心想当皇帝，根本听不进去。
此后刘知远镇守太原，他不像其他藩镇那样横征暴敛，反而招兵买马，抚恤流亡百姓，减免赋税，很快就麾下兵强马壮，深得河东民心。后晋与契丹打得不可开交时，石重贵几次下诏让他出兵，他都以各种借口推脱，拥兵自重，既不助晋，也不投辽，只等两败俱伤，再出手收拾残局。
听闻契丹入开封、灭后晋，中原彻底无主，刘知远知道，自己的机会来了。他立刻召集心腹将佐郭威、史弘肇、杨邠等人议事。
郭威率先拱手进言，声音铿锵有力：“如今辽主纵兵肆虐，中原百姓怨声载道，人心思定。明公手握河东强兵，又是先帝旧臣，名正言顺，正可举义兵，诛辽寇，安抚中原，登基称帝，顺应天命！”
史弘肇也厉声附和，手按佩剑道：“辽人乃夷狄，久居中原必遭天怒人怨！明公若起兵，天下藩镇必望风归附，大业可一举而成！”
刘知远沉吟片刻，故意推辞道：“我乃后晋旧臣，如今晋主尚在黄龙府，贸然称帝，恐落不忠之名，被天下人耻笑。”
郭威再次上前一步，恳切说道：“石氏已亡，辽人暴虐，中原无主，百姓流离失所。明公不称帝，谁能安定天下？这是顺天应人，绝非不忠！”
刘知远见人心所向，不再推辞。他当即下令在太原举哀，为石敬瑭、石重贵发丧，以此收拢后晋旧臣之心。随后在诸将的再三劝进之下，于天福十二年二月十五日，在太原的北都宫城登基称帝，仍沿用晋国号，继续使用天福年号，以示承继后晋正统，史称后汉高祖。
刘知远称帝后，立刻传檄中原诸镇，声言要驱逐辽寇，恢复中原。他下了三道命令：一是禁止为契丹括取钱帛；二是慰劳保卫地方和武装抗辽的民众；三是在诸道的契丹人一律处死。各地不堪辽人欺压的藩镇将领，纷纷杀辽官、献城池，争先恐后地归附刘知远。
耶律德光见中原处处反叛，自己又身患重病，高烧不退，再也不敢停留，只得下令劫掠开封府库的所有珍宝，驱赶着抢来的百姓，仓促北归。大军行至栾城的杀胡林时，耶律德光病重而亡。契丹人为了将他的尸体运回北方，不得不剖腹摘去肠胃，用盐腌制，做成了“帝羓”——这在历史上，也是罕见的帝王悲剧。辽军群龙无首，仓皇北逃，中原之地尽数被刘知远收复。
耶律德光一死，辽国内部立刻陷入皇位之争，根本无暇南下。刘知远抓住这个良机，亲率大军从太原出发，一路南下。所过之处，百姓夹道相迎，纷纷献上酒食；那些藩镇将领，也都带着印信前来归降，几乎没有遇到任何像样的抵抗。同年六月，刘知远率军浩浩荡荡地进入开封，随后正式改国号为汉，史称后汉，仍以开封为都城，正式定鼎中原。
入城之后，刘知远下旨安抚百姓，废除辽人所有的苛政，严禁士兵劫掠。他还下令减免赋税，收拢流民，发放粮食救济饥民。中原大地，终于稍稍安定下来。他对着朝中群臣说道：“朕起于河东，并非贪图皇位，只为驱逐夷狄，安定中原，让百姓能安居乐业，这便是朕最大的心愿。”随后，他加封郭威、史弘肇、杨邠、王章等心腹功臣，整顿军纪，派兵削平那些不服管制的小藩镇，后汉的政权，渐渐稳固下来。
可命运似乎并不想给刘知远太多时间。他在位仅仅一年，就身患重病，卧床不起。乾祐元年正月，刘知远已经到了弥留之际，他强撑着一口气，召皇子刘承祐及心腹大臣郭威、杨邠、史弘肇、王章入内殿，托孤辅政。
他紧紧握着刘承祐的手，气息微弱，却字字清晰：“朕在位日短，未能一统天下。你年幼继位，凡事一定要听四位辅臣之言，不可轻杀大臣，不可猜忌功臣，守住这中原基业，莫学石氏父子自取灭亡！还有杜重威那反复无常的小人，一定要除掉，绝不可留！”
又转头对着郭威四人，声音里带着一丝恳求：“朕与诸位共取天下，情同手足。今朕将去，幼主托付诸位，望诸位尽心辅佐，勿负朕望。若有负心者，天下共诛之！”
郭威四人跪在地上，泣涕不止，齐声