天下的重新统一
建武二年，刘秀虽然收编了赤眉军，占据了长安、洛阳，但这时的建武政权只控制着河北地区、河东地区南部以及长安、洛阳附近，其余地区仍然被大大小小的割据势力和流民武装占据。刘秀充分吸取了更始政权败亡的教训，决定抓紧时机，将各地武装逐一剿灭，尽早实现全国统一。
建武二年五月，随着淮阳郡、汝南郡的归附，建武政权不可避免地与刘永政权发生了冲突。刘永是前汉梁王之子，新莽末年占据梁郡。刘玄进驻洛阳后，刘永率先归附，被刘玄封为梁王。更始政权与赤眉军混战时，刘永趁乱占据了济阴、山阳两郡，还有周边汝南郡、淮阳郡、楚郡、沛郡的部分城池。建武元年十一月，获知更始政权覆灭，刘永自立为皇帝。建武二年四月、五月，刘秀的部队开入淮阳郡、汝南郡，与刘永势力遭遇。刘秀决定先下手为强，他命大将盖延率大军把刘永围困在睢阳。睢阳围困战持续了几个月，刘永得不到增援，只得率少量部众突围。建武三年春，刘永又重新占据睢阳。为了防止刘永势力死灰复燃，刘秀又命吴汉率军支援盖延，再度将睢阳围困。最后刘永在突围的途中被属下斩杀。刘永死后，其余部又立其子刘纡为梁王，继续抵抗。但这时的刘纡已经难成气候，只能在梁地进行小规模的袭扰。
建武二年五月，刘秀部将邓奉在返回南阳探亲时，因不满吴汉对刘氏同宗的抢夺而反叛，还联合当地不愿归附的更始旧将共同对抗刘秀。刘秀收编赤眉军后，亲自率军征讨，迫使邓奉投降。其后，刘秀命岑彭率军继续进攻被秦丰和田戎占据的南郡。建武三年初，秦丰联合从关中退出的延岑袭扰南阳郡，被岑彭击败，延岑随后转投公孙述，秦丰则退回南郡。建武五年，岑彭生擒秦丰，田戎在南郡无法立足，于是经由长江入蜀，也投奔公孙述去了。
秦丰、田戎兵败以后，岑彭率军渡过长江，长江以南的长沙、武陵、零陵、桂阳等郡相继归附。岭南诸郡自王莽覆灭以来，在交趾牧邓让的统领下，闭关自守。岑彭与邓让相识，写信劝降，终使邓让率领岭南诸郡官员归附建武政权，刘秀不费一兵一卒，就拿下了荆州和交趾。
赤眉军覆灭后，冯异率领军队开赴关中。当时关中大部分地区归附延岑，其余地区则被地方豪强割据。冯异进占长安后与延岑遭遇。双方在长安城西南大战，最后延岑兵败，原本归附他的关中豪强纷纷倒向冯异。延岑无法在关中立足，而根据地汉中已被公孙述夺取，只能率领残部出武关逃往南阳郡。关中逐渐被冯异平定。
建武四年，刘秀决定消灭割据燕地的彭宠。当年刘秀经营河北，曾经得到彭宠的支持，然而刘秀称帝以后，两人却起了隔阂。彭宠本以为自己功勋卓著，刘秀称帝，自己就算不封王，也能做三公。但是刘秀并没有给彭宠加官晋爵，反倒将原来彭宠的部将吴汉、王梁委任为三公。彭宠觉得没有得到礼遇，对刘秀颇为不满。建武二年，刘秀派置的幽州刺史朱浮与彭宠不和，朱浮暗地里收集彭宠罪行，向刘秀汇报。刘秀故意把消息泄露给彭宠，想告诫他收敛行为，不想彭宠却起兵造反。彭宠发动渔阳郡的军队，围攻朱浮所在的蓟城，朱浮弃城逃跑。彭宠占据蓟城以后，发文给周边的郡守，邀他们一同反叛。上谷郡太守耿况严词拒绝，涿郡太守张丰则与之联合。彭宠此后又攻占了右北平郡，基本控制了燕地，自称燕王，派人与匈奴联合，成为北方颇有势力的割据集团。
彭宠在北方攻城略地的时候，刘秀正忙着稳定洛阳附近的局势，同时与赤眉军、刘永政权作战，无暇顾及后方，只能让朱浮、耿况等人坚守城池，防止彭宠向河北内地拓展势力。建武四年五月，已经稳定中原局势的刘秀御驾亲征。刘秀先命大将耿弇、祭遵等人围攻涿郡的张丰，将其擒获。而彭宠则仰仗匈奴的支持顽强抵抗。刘秀决定主动打击匈奴，消灭彭宠集团的后援。匈奴增援部队刚刚进入渔阳郡，便遭到耿况军队的截击，两名首领被斩杀。匈奴慌忙撤出边塞，不敢再支援彭宠。失去匈奴的支持，彭宠只能困守渔阳郡。刘秀知道彭宠大势已去，便返回洛阳，只留少数部队继续围困。彭宠的属下感到前途无望，军心涣散。建武五年二月，彭宠被小奴刺杀，其集团土崩瓦解，渔阳、右北平两郡先后归附。
建武四年六月，刘秀从河北前线返回洛阳，随即将兵锋指向割据东南的李宪政权。李宪于新莽末年割据庐江郡，自称淮南王，拥兵十余万，附近的九江、丹阳、会稽三郡也依附于李宪。建武三年，李宪称帝，建立政权。刘秀不愿看到李宪势力坐大，于建武四年八月亲征，把李宪围困在舒城。九江、丹阳、会稽三郡的官员先后背叛李宪，转投刘秀。建武六年，舒城被建武军队攻破，李宪被部下所杀。
刘秀消灭李宪政权后，随即移兵攻打割据东海郡的董宪。董宪是在新莽覆灭之际趁乱而起的地方豪强。建武三年，已经称帝的刘永封董宪为海西王，予以拉拢。刘永战死后，其残部东逃，大多被董宪收编。董宪还出兵帮助刘纡对抗刘秀。建武四年，刘秀部将庞萌叛变，率部投奔董宪，还帮助董宪攻下楚郡。建武五年，庐江郡局势已趋于稳定，刘秀开始向董宪、庞萌发动进攻。七月，刘秀亲赴沛城督战，指挥军队攻入东海郡，董宪退保郯城。八月，刘秀又亲临郯城指挥作战，同时派兵收复了楚郡。董宪、庞萌抵挡不住，放弃郯城，退守朐城。朐城背靠大海，董宪、庞萌已无路可退。刘秀留下大将吴汉继续围困朐城，自己则率军去攻打张步。建武六年，走投无路的董宪、庞萌向梁地流窜，被当地百姓斩杀。董宪割据势力被彻底剿灭。
建武五年，刘秀在剿灭董宪、庞萌的同时，发起了征讨张步的战争。张步于新莽覆灭之时占据琅邪郡。更始政权灭亡后，齐地局势混乱，张步趁机控制了周边数郡，成为齐地颇有势力的武装集团。此后张步又趁着刘秀、刘永混战之机，吞并了齐地十二郡，发展成为关东最大的割据集团。刘永战死以后，张步又出兵扶持刘纡，继续对抗刘秀。次年，刘秀下令攻打张步。大将耿弇率军突破了张步苦心经营的历下防线，乘胜攻占了齐地重镇临淄。张步认为耿弇军队人数有限，再加上连续作战，已疲惫不堪，想一举将其消灭，于是调集了十余万大军，将临淄城团团围住，而耿弇则采取袭扰战术消耗敌方。正在鲁郡指挥围剿董宪、庞萌的刘秀得知耿弇被围困，亲率主力救援。获知刘秀援军即将赶到，部将们都劝说耿弇固守城池。耿弇却认为敌军久攻临淄不下，士气低落，现在正可以给予敌军致命一击。耿弇于是亲率部众出城作战，张步大败，仅率少数部众逃脱。刘秀来到临淄城外，见到耿弇已将十余万张步主力击败，不禁感叹耿弇是可以与前汉韩信相匹敌的将才。
战败的张步已经彻底丧失了抵抗的意志，很快投降。耿弇将张步押送至洛阳，刘秀予以张步优待，分封他为列侯，还在洛阳城内为他准备了住宅，使其可以平安终老一生。张步投降以后，治下郡县先后归附，齐地逐渐平定。
建武六年，困守孤城的董宪、庞萌、李宪等人相继城破身死。自此关东地区悉数平定，刘秀率领部将返回洛阳，论功行赏。那些立有战功的将领，以及归附的武装首领都得以封官拜爵。关东的平定，只是刘秀统一全国军事进程的阶段性胜利。因为关西大部分地区仍然被各种割据集团占据，这些政治势力不消灭，刘秀还算不上真正的皇帝。该年四月，刘秀亲赴长安，名义上是拜谒西汉帝陵，真实目的是要对西北最具实力的隗嚣集团下手。
隗嚣是陇西人，年少时颇有声名，被征召至长安跟随刘歆学习。新莽政权覆灭，陇西当地豪族趁势起兵，杀掉王莽派置的官吏，拥戴返乡的隗嚣为领袖。隗嚣攻克陇西诸郡，成为长安以西最大的政治势力。刘玄入主长安，征召隗嚣入朝。隗嚣对更始政权抱有幻想，前往长安，被委任为御史大夫。赤眉进军关中，隗嚣与王匡等人建议放弃关中，遭到刘玄拒绝。隗嚣率领亲信十余人逃回陇西，重新割据。此后隗嚣又相继击退赤眉军和公孙述的军事进攻，巩固了自己在陇西的地位。
建武三年，冯异进军关中，陆续降服地方豪强。隗嚣在来歙的劝说下，归附刘秀。建武五年，刘秀授意隗嚣发兵攻打公孙述，隗嚣推辞，与刘秀产生隔阂。建武六年，关东已基本平定，刘秀致信隗嚣，劝谕其入朝。隗嚣拒不从命。刘秀亲赴长安坐镇，兵分七路征讨隗嚣。刘秀低估了隗嚣的实力，七路大军相继战败，隗嚣还乘胜反击关中，幸得冯异顽强抵抗，才使隗嚣退兵。此战使刘秀意识到隗嚣实力强大，不得不重做计划。
击败刘秀的进攻之后，隗嚣公开与刘秀决裂，转而向公孙述称臣。建武七年，隗嚣大举发兵，想一举夺取关中，又被冯异、祭遵等人击败。建武六年、七年，建武政权在与隗嚣集团的对抗中，一直处于被动，然而建武八年来歙的一次军事突袭，彻底改变了战场的局面。
隗嚣割据陇西，主要依靠的是陇山天险。隗嚣以精兵把守陇山隘口，常使刘秀大军无功而返。来歙深知陇山交通的重要，私下派人寻找到一条越山捷径。建武八年春，来歙率领二千人翻越陇山，攻占陇西重镇略阳，改变了战场的局面。隗嚣亲率数万精兵围攻略阳，而刘秀则命冯异、吴汉等人火速增援来歙。隗嚣采取决河灌城、地道突袭等方式围攻略阳数月，均无功而返。而此时刘秀亲率大军攻入陇西，控制河西五郡的窦融也率大军配合作战。隗嚣集团随即崩溃，十余万人投降，隗嚣则退守西成。刘秀认为大势已定，只留下吴汉、岑彭率少量军队继续围困隗嚣，自己返回洛阳。汉军围攻隗嚣近半年，仍未能将其攻下，这时公孙述派来的援军赶到，与隗嚣里应外合，将汉军击败。汉军撤回关中，陇西各郡县又相继被隗嚣夺回。
建武八年征讨陇西军事行动的失败，严重打击了刘秀的信心，转而考虑以优抚的形式拉拢隗嚣。而来歙认为，经过此前的军事行动，隗氏集团已元气大伤，如果汉军一鼓作气，完全可以将隗氏集团铲除。刘秀最后采纳了他的建议，让来歙组织大军再次征讨陇西。建武九年八月，来歙、冯异等五将翻越陇山。这时隗嚣已经病死，其子隗纯继续抵抗。隗氏集团没有能力与建武政权对抗，陇西各城池相继被攻陷，隗纯率残部退守落门聚，最后矢尽粮绝，不得不开城投降。
陇西刚刚平定，刘秀立刻命令部队南下，向公孙述政权发动进攻。当时诸将认为汉军需要稳定陇西局势，加以休整。而刘秀指出，汉军刚刚取得胜利，应当乘胜继续进攻。倘若停止军事进攻，将会给公孙述以喘息之机。刘秀刚刚攻占陇西，就发兵蜀地，这正是典故“得陇望蜀”的由来。
公孙述本为关中人，于新莽末年起兵蜀地，逐渐发展为蜀地最有影响的割据势力。更始二年，刘玄派遣军队入蜀，被公孙述击败，公孙述遂自称蜀王，建立政权。此后，公孙述趁着更始政权与赤眉混战之机，兼并了蜀地各郡，还出兵占据了汉中，最终据有整个西南地区，于建武元年称帝。建武六年，闻知刘秀兵败关中，公孙述发兵沿长江而下，想趁机夺取荆州，但被岑彭击败。此次失利使公孙述放弃了夺取关东的野心，选择固守蜀地。
建武十一年，隗氏势力刚被剿灭，刘秀即命令来歙率军南下，同时命令镇守荆州的岑彭溯江而上。来歙很快攻占武都郡，蜀地北门洞开。岑彭则突破三峡天险。面对两路汉军的大举进攻，公孙述使出暗杀的手段，派遣刺客先后刺杀了来歙、岑彭。但公孙述的计谋并没得逞，刘秀又分别委派盖延、吴汉接管北路、东路大军，继续向蜀地发动进攻。建武十二年初，吴汉率领大军将成都围困，同时派兵诏谕蜀地各郡县，蜀地官吏纷纷归附。当年七月，公孙述见困守孤城无望，率军出城决战，兵败身亡，残部开城投降。吴汉纵兵入城劫掠，公孙氏被满门抄斩，公孙氏政权自此覆灭。
蜀地平定以后，刘秀掉转兵锋，直指最后一个割据政权——卢芳集团。卢芳本来是安定郡豪强，新莽末年割据安定郡，后来被隗嚣击败，逃奔匈奴。新莽政权覆灭后，北方朔方、五原、云中、雁门、代五郡豪强纷纷投靠匈奴，匈奴立卢芳为皇帝，将其护送至塞内，让他建立割据北方的政权，作为匈奴抵御中原王朝的屏障。建武十三年，刘秀大兵压境，卢芳属下知道无力对抗，纷纷投降，卢芳众叛亲离，只身逃奔匈奴。
从建武二年消灭刘永政权开始，到建武十三年卢芳政权覆灭，刘秀历经十年有余的时间终于剿灭了各地的割据政权，一个新的统一王朝终于在战火中建立起来。