刘秀明白，尽管暂时消除了刘玄等人对自己的猜忌与疑虑，却无法从根本上解决问题。只有摆脱刘玄的控制，才能够消除危险。
23年10月，刘秀奉更始帝刘玄的命令，以破虏将军兼大司马的名义出使河北，稳定那里的局势。这时的河北形势十分复杂并且不稳定，刘秀虽然希望早日摆脱更始政权的限制，但对发展河北信心不足。后来在冯异、邓禹等人的建议下，他才坚定了信心。
为了拉拢人心，刘秀在河北做了许多符合民意的事情。他每到一处，便考察官吏，然后按照他们的能力升降职位。他还平反了很多冤案，将无罪的囚徒释放。另外，他废除了王莽苛政，恢复了汉朝的官吏名称。
此时，王郎在河北的势力很大。他谎称自己是汉成帝的儿子刘子舆，利用当地豪强地主为确保自身利益而排挤刘秀的心理发展自己的势力，在邯郸建立了一个新的割据政权，随后便悬赏通缉刘秀。刘秀几经逃难，最终在河北站稳脚跟。
更始二年（24年）四月，刘秀率领大军攻打王郎。他原打算先攻下巨鹿，然后再去攻打邯郸，但由于巨鹿有重兵把守，大军久攻不下，于是采纳了谋士的建议，仅留部分兵马牵制住巨鹿的敌军，亲自率军攻打邯郸。刘秀大军势如破竹，连连获胜，顺利攻破邯郸，除掉了王郎。不久，巨鹿失去支援，不久便被刘秀大军攻破。这样以来，黄河以北的广大地区基本上为刘秀所有，河北成为他脱离更始政权、创建统一大业的重要基地。
铲除王郎后，刘秀驻军邯郸。他一刻不忘收买人心，以便发展自己的势力。在查阅王郎朝中公文的时候，他的手下发现了很多和他有关的公文。这些公文的作者要么辱骂他，要么痛斥他，要么为王郎献计除掉他。当手下将这些文书拿给他看时，他立即派人将这些文书拿到空旷处，然后准备当着众将士的面将其烧毁。
这时，一名武将忍不住说道：“将军，如果将这些公文烧掉，那些对你不怀好意的人不就可以逃脱我们的惩处了吗？即使以后我们能查出一二个人来，也没有证据治他们的罪啊。”
刘秀知道手下有很多人都是这么想的，于是向对众人解释道：“我根本没有考虑如何惩罚这些人，我这样做的目的正是为了放过这些人，因为他们之所以会反对我，也是迫于形势。以前发生的事情就此告一段落，不要再提了。否则，真心愿意投奔我们的人不就少了许多吗？”
刘秀在河北的扩张引起了更始帝的不安，他派使节赶到河北，封刘秀为萧王，并命令刘秀停止一切军事行动，与立功将领一起赶到长安受赏。刘秀自然明白更始帝的意图，以“河北未平”为由拒绝应召。从此，刘秀与更始帝的矛盾便公开化了。
更始三年（25年），刘秀为了进一步加强军事实力，调集各郡兵马，先后在馆陶（今山东馆陶县）、薄阳（今河北省满城县）等地击败并收编了铜马（今河北钜鹿县北）、高湖（今江苏靖安县西）等地的农民起义军。
这个时候，以樊崇、逢安、徐宣等人为首的赤眉军，正迅猛地向长安进兵。刘秀见争夺天下的时机已到，一面派将军邓禹率精兵2万向关中一带进发，一面以北据太行山、南临黄河、地势险要、财物富实的河内郡（今河南武涉县）为进取中原的立足点，巩固实力。他任文武兼备的寇恂为河内太守，冠以“行大将军事”的御号，让他保障军粮供应、训练士兵和战马，以阻挡外面的军队。同时，他又在孟津（今孟县以南）部署重兵，时时窥视洛阳。
一切准备就绪后，刘秀带领一支军队回到冀中、冀北一带。当时，许多将领纷纷给他上尊号，要他称帝，他一律拒绝。当得知众将领要他当皇帝并非出于个人利益时，他才决定称帝。
6月，刘秀在皓城（今河北柏乡县北）举行登基大典，改元为建武。
刘秀称帝时，地方割据势力遍布大江南北。要想统一天下，必须将这些割据势力统统消灭掉。于是，刘秀率领汉军继续征战，逐步兼并各方。
建武元年（25年）十月，汉军围攻绿林军坚守的洛阳。绿林军统帅朱鲔无奈投降，刘秀迁都洛阳。随后，从建武二年（26年）至建武十二年（36年），汉军先后灭掉或收复了豫西地区（洛阳以东和洛阳至长安沿线）、赤眉军占领的长安、东方的刘永、河北的彭宠、河西的窦融、淮南的李宪、关东地区、西北的隗嚣、西南的公孙述等地方势力，统一了全国。
以德服人 彰显风范
建武十七年（41年），刘秀还乡宴会父老故人。席间，长辈们都说他少时温柔，缺少凌厉之气，即帝位后依然如此。刘秀大笑说：“吾治天下亦欲以柔道行之。”的确如此，他果真把“柔”作为治国之道。
建武四年（28年），割据陇右的隗嚣正徘徊于公孙述和刘秀之间，不知该归服哪一方。于是，他派爱将马援先后去成都和洛阳探访双方的详情。
刘秀接见马援时没有升堂坐殿，穿着便衣独自一人坐在洛阳宫宣德殿下。见到马援后，他微笑着说：“贵客穿梭于两个皇帝之间，想必经多见广。如今见到贵客，深感惭愧。”马援被他的谦和打动，叩头说：“今天，不再是君主在选择臣下，臣下也在选择君主。我从远方来，陛下接见我时竟不带卫士，不怕我是刺客吗？”刘秀笑着说：“你只是个说客罢了。”
马援认为刘秀是帝王之材，回去后就劝隗嚣归服刘秀。隗嚣不听，马援竟独自归服了刘秀。
刘秀恢弘大度，在对待“逸民”、“隐士”等不驯的人物时同样如此。太原郡广武县（今山西代县南）有个叫周党的人，在当地很有名望，朝廷几次征他去做官都被他拒绝。
后来，周党迫于无奈，只好动身前往洛阳。按礼节，士人被尊贵者召见，必须自报姓名，否则便是不尊。周党见了刘秀，仅仅说做官不是他的志趣。大臣范升认为周党在皇帝面前骄悍无礼，应治“大不敬”罪。刘秀下诏说：“自古明王圣主都遇到过不愿为他做臣的人，如伯夷、叔齐就不食周粟。周党不接受我的俸禄，那是他的志愿，赐给他40匹绸子。”
刘秀时时都能保持清醒的头脑，能够辨明是非，分清忠奸，既不会被小人的歌功颂德、阿谀奉承所迷惑，也不会冤枉刚正不阿的官吏。
刘秀并不好田猎，偶尔会乘兴出猎。一次，他狩猎回城时已是深夜，东门侯郅恽拒关不开。刘秀没办法，只好转到东城门进了城。第二天，郅恽上书说：“陛下远猎山林，夜以继日，如社稷、宗庙何？”刘秀看了后，不但没责备郅恽，反而赐了郅恽100匹布，并贬了放他进城的官。
刘秀为人比较谦虚，能够从谏如流。一次，宋弘奉召赴宴，见宫室内屏风上画着漂亮的仕女，便说：“未见好德如好色者。”刘秀听后立即派人撤去屏风。
刘秀对臣下以诚信相待，用人不疑。冯异原来在王莽处任官，为人正直，办事沉稳，不邀战功，诸将论功时“独屏树下”，人称“大树将军”。后来冯异被拜为征西大将军，长期率兵镇守关中，权高位重，使一些人产生了嫉妒心理，谣传他要当“咸阳王”。冯异知道后，马上请求辞职。刘秀不信谗言，下诏抚慰冯异说：“将军之于国家，义为君臣，恩犹父子，何嫌何疑，而有惧意？”他的话彻底打消了冯异的疑虑，使其深为感动。
刘秀常常告诫皇亲国戚不要仗势欺人，飞扬跋扈。一旦他们犯下罪行，他能够做到公事公办，从不徇私情。
司隶校尉鲍永、都事从官鲍恢不避豪强，曾弹劾刘秀叔父赵王刘良仗势呵斥京官“大不敬”，刘秀借此告诫贵戚们应当约束自己，“以避二鲍”。
刘良临终前，刘秀去看他，问他有何遗愿。刘良说他只有一件事需要刘秀做主，即他的朋友李子春犯了罪，怀县县令赵熹要判他死刑，希望能保住他的命。刘秀正言说：“官吏执行法律，我不能徇情枉法。”
刘秀大姐湖阳公主的奴仆大白天行凶杀人，躲在公主家中，官吏无法前往捉捕。洛阳县令董宣乘公主外出，在半路上抓住行凶奴仆并杀掉了他。公主向刘秀告状，刘秀要处死董宣。董宣大声说：“陛下圣德中兴，而纵奴杀人，将何以治天下？”刘秀听后便赦免了他，但要他向公主赔礼道歉。董宣坚持己见，固不答应。刘秀让武士们将董宣按倒在地，董宣双手撑地，拒不磕头。刘秀笑着称董宣为“强项令”，并赐钱30万，以示对他的奖励。
体恤军民 励精图治
东汉王朝建立后，刘秀面临的是一副满目疮痍、百废待兴的残破局面。为了顺应民心、恢复经济、巩固统治，他实行了宽松的统治。
第一，减轻赋税。刘秀长于民间，知道稼穑的艰难和百姓的疾苦。建武六年（30年），为了恢复被破坏的广大农村经济，刘秀下令继续实行西汉时设立的“三十税一”的田赋制度。如果遇到突发性的自然灾害，他就下令减免徭役。对于不能自给的鳏、寡、孤、独、贫等人家，官府经常发放粮食，从而缓和了社会矛盾。
第二，解放奴婢。自秦汉以来，奴婢问题一直是不容忽视的社会问题。西汉末期，许多豪强地主霸占了大量土地。失去土地的百姓沦为奴婢，在王莽的残酷统治下，这种现象得到加剧。刘秀即位后，为了缓和阶级矛盾，多次下令释放奴婢。建武二年（26年），他下令“民有嫁妻卖子欲归父母者，恣听之”，规定凡为生活所迫沦为奴婢而又愿意回家者，准许回家为自由民，不得强行干涉。建武七年（31年），他又下令在战乱和饥荒中沦为奴婢而要求解除奴婢身份的，允许他们离开主人，主人不得阻碍，否则予以严厉的处罚。为了更好地保护奴婢权益，刘秀还曾下令，不许主人任意杀害奴婢，更不能残酷地在奴婢面部打烙印记，特别强调“地之性人为贵，其杀奴婢，不得减罪”。
第三，简化机构。官府机构设置在汉武帝时开始膨胀，这是造成汉武帝时期及以后民用匮乏的重要原因。刘秀称帝后大刀阔斧地合并官府，减少吏员。建武六年（30年），他对县及相当于县的封国进行调整，“并省四百余县，吏职减损，十置其一”。这不仅节省了国家财政开支，而且加强了中央对地方的控制。另外，他又恢复了汉武帝时期开始实行的“刺史”制度，除首都和京畿地区外，在其他十二州各设一刺史。刺史遵照皇帝的命令，代表中央巡行郡国，从而强化了中央对地方的监督与控制。与此同时，刘秀取消了三种地方军队——步兵、骑兵、水兵，并撤消了地方军长官郡都尉，让地方士兵一律退伍还乡，从事农业生产，大大节省了政府开支，减轻了人民的负担。
第四，免去上贡。东汉政权建立后，各郡国仍按以往的习俗向朝廷贡奉地方特产和珍奇美味。虽然刘秀一再劝阻，但一些地方官吏就是不听。建武三年（27年）正月，刘秀下了一道特别诏书，明确规定：太官府对各郡国送来的异味，一律不许接收，敢于违犯禁令者予以严惩。此举既改变了一些官员的作风，又减轻了百姓的负担。
光武帝能够统一天下，离不开众多部将的支持和帮助。其中，最有名的是“云台二十八将”，即邓禹、吴汉、贾复、耿弁、寇恂、岑彭、冯异、朱佑、祭遵、景丹、盖延、铫期、藏宫、马武、马成、王梁、陈俊、杜藏、傅俊、坚镡、王霸、任光、李忠、万修、邳彤、刘植、耿纯、刘隆等28位将领。光武帝没有忘记他们的功劳，把他们安置得非常妥当，既能够消除他们对皇权的威胁，又能够使他们感到满意。一方面，他继续重用有较高政治才能的功臣，让他们参议国事，如任命邓禹为大司徒，封丰臣侯，食邑万户。另一方面，他重赏虽屡建军功却无治国才干的功臣，让他们永享富贵，但不授以实职实权，如草莽英雄马武作战勇猛、屡建战功，刘秀称帝后，拜他为侍中、骑都尉，封山都侯，不授予实权。
光武帝认为，夺取天下需要勇猛善战的武将，治理天下则需要有远见卓识的文吏。东汉政权初建时，刘秀在继续用武力平定天下、巩固政权的同时，已开始致力于复兴儒学，从意识形态上来统一和稳定人心。他下令广泛搜集、整理古代典籍，并在洛阳城门外兴建起太学，设立五经博士，恢复西汉时期的十四博士之学。有了这些硬件措施后，他亲自巡视太学，赏赐优秀的儒生，并提拔或重用他们。如《易》学者刘昆、《尚书》学者欧阳歙、《春秋》学者丁恭、《诗》和《论语》学者包咸等都先后被任命为都尉、大司徒、侍中等重要官职。
刘秀的这些措施，使儒生有了更多的机会进入政界，不仅有利于辅助朝廷制定和落实政策，而且对后世的经学传播也起到了积极作用。
为了能够治理好国家，光武帝一身勤俭持国，为朝野官员做了一个很好的典范。他从不恣意放纵自己，不求奢华，“身衣大练，色无重彩，耳不听郑卫之音，手不持珠玉之玩”。
光武帝在写诏书时，都是“一札十行”，即一片木简上写十行字，字又细又小，字与字之间不留空隙。
光武帝做了十几年皇帝后，宫中仍旧没有专职乐人，也没有御用仪仗，直到打败了成都的割据势力公孙述，汉蜀郡太守张堪把成套皇帝的旗幡、乐器送到洛阳，东汉宫廷才算健全了礼仪设施，光武帝这个皇帝才算真正有点像样了。
群臣虽然数次建议光武帝“封禅泰山”，都被他拒绝，直到去世的前一年才实行，为国节约了大量的财力物力。
光武帝一改自秦始皇以来日益风行的“厚葬”风气，数次颁诏宣扬“薄葬”。建武中元二年（57年）二月，63岁的光武帝在洛阳南宫逝世。他在遗诏中说：“我无益百姓。丧葬，一切都要像孝文帝那样，务从约省。”