北宋灭亡以后，原来留在相州的康王赵构逃到南京（今河南商丘）。公元1127年五月，赵构在南京即位，这就是宋高宗。这个偏安的宋王朝，后来定都临安（今浙江杭州），历史上称做南宋。
宋高宗即位以后，在舆论的压力下，不得不把李纲召回朝廷，担任宰相。但是实际上他信任的却是黄潜善和汪伯彦两个亲信。
李纲提出许多抗金的主张。他还跟宋高宗说：“要收复东京，非用宗泽不可。”
宗泽是一位坚决抗金的将领，北宋灭亡之前，宋钦宗曾经派他当和议使，到金京议和。宗泽跟人说：“我这次出使，不打算活着回来。如果金人肯退兵就好；要不然，我就跟他们争到底。宁肯丢脑袋，也不让国家蒙受耻辱。”
宋钦宗一听宗泽口气那么硬，怕他妨碍和谈，就撤了他和议使的职务，派他到磁州去当地方官。
金兵第二次攻打东京的时候，宗泽领兵打击金兵，一连打了十三次胜仗，形势很好。他写信给当时的康王赵构，要求他召集各路将领，会师东京；又写信给三个将领，要他们联合行动，救援京城。哪知道那些将领不但不愿出兵，反嘲笑宗泽在说疯话。宗泽没办法，只好单独带兵作战。有一次，他率领的宋军遭到金军的包围，金军的兵力比宋军大十倍。宗泽对将士说：“今天进也是死，退也是死，我们一定要从死里杀出一条生路来。”将士们受到他的激励，以一当百，英勇作战，果然杀退了金军。
宋高宗早就了解宗泽的勇敢，这次听了李纲的推荐，就派宗泽为开封府知府。
这时候，金兵虽然已经撤出开封，但是开封城经过两次大战，城墙全部被破坏了。百姓和兵士混杂居住；再加上靠近黄河，金兵经常在北岸活动。开封城里人心惶惶，社会秩序很乱。
宗泽在军民中有很大的威望。他一到开封，先下了一道命令：“凡是抢劫居民财物的，一律按军法严办。”命令一下去，城里仍旧发生了几起抢劫案件。宗泽杀了几个抢劫犯，秩序就渐渐安定了下来。
河北人民忍受不了金兵的掠夺烧杀，纷纷组织义军，打击金军。李纲竭力主张依靠义军力量，组织新的抗金队伍。宗泽到了开封之后，积极联络义军。河北各地义军听到宗泽的威名，自愿接受他的指挥。
河东有个义军首领王善，聚集了七十万人马，想袭击开封。宗泽得知这个消息，单身骑马去见王善。他流着眼泪对王善说：“现在正是国家危急的时候，如果有像您这样的几个英雄，同心协力抗战，金人还敢侵犯我们吗？”
王善被他说得流下了感动的眼泪，说：“愿听宗公指挥。”
其他义军像杨进、王再兴、李贵、王大郎，都有人马几万到几十万。宗泽也派人去联络，说服他们团结一致，共同抗金。这样一来，开封城的外围防御巩固了，城里人心安定，存粮充足，物价稳定，恢复了大乱前的局面。
但是，就在宗泽准备北上恢复中原的时刻，宋高宗和黄潜善、汪伯彦却嫌南京不安全，准备继续南逃。李纲因反对南逃，被宋高宗撤了职。