回归均势
康王登基后，伴随着宋朝历史的主战派与主和派的争论再次回来了。此时主战的是宗泽、李纲等人，主和的则是两位入了《宋史·奸臣传》的大臣黄潜善和汪伯彦。
事实上，金人退军后，中国北方大部分地区还是掌握在宋朝手中。东京汴梁、西京洛阳、南京应天、北京大名，全都没有丢掉。
金国实际控制的中国土地是极其有限的：在北方，当年燕云十六州的大部分地区归了金国；在山西，宋朝丢失了太原（含）以北地区；在河北，金国借助占领燕京的势头，逐渐南向渗透，但实际控制地依然只有北京以南数州，其余地区要么依附于宋，要么处于半独立状态。
宋朝仍然控制了山东、河南全部，山西、河北南部，以及陕西南部（其北部是西夏控制），所失去的领土并不多。
在高宗君臣的讨论中，贯穿着如何利用大半河山完成抗敌，甚至收复山西、河北北部地区的问题，其核心问题在于是否迁都。由于北方领土的损失，汴京已经无险可守，太容易受到打击，从这个意义上说，必须迁都。可是如果真的迁都，又太影响士气，不利于收复国土。
围绕着迁都问题，主战派、主和派吵成一团。宗泽主张不要迁都，以东京为基地进行抗战。李纲借鉴了种师道的主张，认为可以迁都，但最好迁往陕西地区，利用陕西的天险与金国抗衡。还有人主张迁都应天府，应天府是宋高宗即位的地方，今天的河南省商丘市仍然属于北方地区，迁到那儿不至于影响士气。
这些人的主张有一个共同点，就是皇帝不要离开北方。不管是东京汴梁、陕西长安、南京应天府，都在抗金的前线。皇帝只要留在北方，那么未来收复失土就是有望的。
在朝廷中还有另一派人主张南迁，他们有的主张前往东晋南朝的首都建康，有的主张前往湖北的荆州。但主张南迁的人始终无法回答的一个问题是：当朝廷距离北方边境过远时，很可能就意味着北方领土的永久丢失。一旦皇帝离开，金国将重新蚕食北方，宋金将形成以淮河流域为边界的新格局。到那时，所有的北伐都会成为空谈。
在中国历史上，到宋朝为止，当出现以淮河为界的南北对峙时，还没有一个南方的政权能够反攻北方、统一全国的。从这个意义上说，一旦退往南方，可能意味着北方再也回不来了。
但南迁派手中又有一个王牌：皇帝的安全。宋高宗赵构并不是一个雄才大略的皇帝，经过靖康之变后，皇帝首先要防止的是自己成为下一个宋徽宗、宋钦宗。
争执过后，宋高宗决定迁往南方，他首先退到了扬州，将扬州建成了暂时的首都（在宋代，皇帝暂时驻扎的地方称为行在所，或者简称行在）。这次搬迁也决定了宗泽、李纲等主战派被皇帝逐渐疏远。
建炎元年，由于金国在汉境扶立的傀儡皇帝张邦昌退位，处于军事极盛期的金军再次南下。
此刻，更加了解南方地形的金军兵分三路，对长江以北三个最重要地带进行打击：西路军从山西进入陕西，试图征服这个地处西北的战略要地；中路军在元帅完颜宗翰（粘罕）的领导下，从山西南下，渡过黄河后向洛阳进军；东路军在右副元帅完颜宗辅和他的弟弟完颜宗弼（即著名的金兀术）领导下，从燕京出发，向河北、山东地区扫荡。东路军和中路军又负有另一个使命：南进后，他们将合势再次进攻宋朝的东京汴梁。
金军取得了重大胜利，其中西路军攻克了长安，中路军攻克洛阳后，继续南下到达襄阳、房州、邓州，向长江流域施压，东路军则掳掠了山东地区。但在东京汴梁，老将宗泽却成功地组织了东京保卫战，阻止了金军的继续南下。由于金军的后勤出了问题，三路军都不得不退军，将所侵略的领土尽数让出。
战争以宋军的战略胜利而告结束。
这也是金军第一次显出了疲态。由于金国是以一个民族为主体建立的国家，女真族人口不多，这支武装具有足够的锐度，却缺乏厚度，可以迅速奔袭，却无法维持占领。当宋高宗撤到南方后，在双方的政治中心之间留下了庞大的空白地带，从河北地区直到黄河，再到淮河、长江之间，直线距离有一千多里，金军每一次发动袭击都必须首先跃进一千多里，才能抵达宋代的新政治中心。完成跃进后已经开始疲劳，进入了衰竭期。
要想克服此种不利，金国必须将前进基地迁往南方靠近淮河流域的地方。但由于金国的政治过于落后，无法形成有效统治，很难建立起稳定的政权来控制黄河、淮河地区。
金军唯一的机会就是实行闪电战，派出军队千里跃进，进攻宋朝皇帝，迫使他迅速投降，让全国归顺。
建炎二年，守卫东京的老将宗泽去世，金军随即开始了第二次南侵。这次南侵除了与第一次一样兵分三路，分别进攻陕西、河南和山东之外，还增加了机动性要求，在各个将领分兵掠地时，东路军的完颜宗弼则率领人马直捣扬州，试图在宋高宗没有反应过来时，就兵围扬州，擒获皇帝。
但金军并没有抓住皇帝，高宗在金兵到来之前仓皇逃走，渡过了长江，避免了被俘的命运。由于金兵没有准备好，缺乏渡江器械，只得第二次撤军。
但是，此次偷袭扬州将宋高宗吓破了胆，他不仅不再考虑迁回北方，收复旧土，甚至连长江沿岸都认为不再安全，将首都迁往了更加遥远的杭州。
宋高宗迁都杭州造成了两方面的影响：一、金军的作战臂长很难到达杭州，这也决定了宋金战争将演变成长期的对峙；二、北宋的彻底灭亡。随着皇帝南迁杭州，北方领土由于过于遥远，相继沦陷。
陕西的关中平原，河南的东京汴梁、西京洛阳，河北、山东全境，逐渐被金国占领。双方对峙线向淮河地区南移，形成了以淮河流域为主体的新防线。
在宋金局势转化成长期对峙之前，金军还做了一次尝试。
建炎三年冬，金将完颜宗弼以山东为基地兵下寿春，向江南扑来。到达寿春后，又兵分两路，一路向江西境内扑去，追袭位于洪州的隆祐太后（即元祐太后——孟太后）；另一支则走传统的巢肥故道，兵下采石矶，渡过长江后进攻建康，再从建康向高宗所在的临安地区进军，意图一举消灭南宋王朝。
完颜宗弼在采石矶渡江，击溃了建康的防务后，迅速南下。一路上由于进军太快，守将根本无法完成防务。
但由于路途遥远，金军还是没抓住高宗。他们到达临安，皇帝已经逃走，到了东海边上的定海，在这里，他乘船出海，这是中国历史上皇帝第一次为了逃难而到了海上。
这次著名的逃亡，成了南宋挫败金国速胜企图的最后努力。如果金国失败，必定无法再组织起下一次如此巨大规模的远征，双方将进入均势状态，以淮河为界各自统治一半中国。
完颜宗弼撤退时，在如今南京附近的黄天荡遭到了韩世忠的阻击。韩世忠以八千人围困了金兵十万人达四十八天之久，金兵由于另掘新的河道才得以逃走。这次战役象征意义远大于实际意义，不仅破除了金军不败的神话，也终结了金国军事的上升势头。
绍兴十二年，宋高宗以杀害抗金名将岳飞为代价，与金朝议和，维持了以进贡换和平的传统。到此时，宋金之间的拉锯战已维持了十几年，淮河成了双方较为稳定的新国界，这是两国军事实力再平衡的产物。一旦进入均势，双方均很难再打破此种局势。
绍兴三十一年，夺取帝位的金国海陵王完颜亮率军南侵，试图从采石矶过江灭南宋，却遭到了决定性失败，海陵王也在兵变中身死。这时的金国已经如同当年的辽国一样，无力对南宋构成决定性的威胁了。