朱元璋拿下太平，城里安安稳稳，只是城外还有元兵的势力。蛮子海牙调集巨舰截住采石的姑孰口，并命义兵元帅陈野先率领水陆兵两万人进逼太平。朱元璋乘他初来乍到，命徐达、邓愈绕到敌后，潜伏在襄城桥。陈野先没料到有伏兵，被邓愈活捉。剩下的人见主帅被擒，纷纷逃散，逃得慢的都做了刀下鬼。徐达、邓愈得胜回城，将陈野先推入帐前，朱元璋命左右给他松绑，然后好言抚慰。陈野先迟疑了很久，才表示愿意投降。朱元璋就让他招降以前的部下，陈野先领命而去。
陈野先出帐后，冯国用说：“此人獐头鼠目，不能轻信啊！”朱元璋默不作声。第二天晚上，陈野先入帐，说自己的部下前来投降。朱元璋就让他召进来，一一记上名字，仍命陈野先统辖。朱元璋接着命徐达等人分别略地，溧水、溧阳、句容、芜湖接连被攻下，于是准备进攻集庆。陈野先忽然前来禀报：“蒙主帅不杀之恩，我愿带领旧部拿下集庆。”朱元璋点头。冯国用又暗中谏阻，朱元璋却说：“人各有志，让他自便吧。”
陈野先离开后没过几天，就派人给朱元璋写信，说只要南据溧阳，东捣镇江，集庆就能不攻自破。朱元璋看完后，泯然一笑。随后将书信给李善长看，李善长说：“陈野先诡计多端，看来是想让我们旷日劳师了！”朱元璋说：“你替我答复吧。”李善长领命，提笔责问陈野先。朱元璋看完后拍手叫好，接着遣回来使，并命张天佑请郭天叙帮忙攻打集庆。郭天叙还在犹疑不决，张天佑说：“拿下集庆就能南面称帝，北图中原，你怕什么呢？”郭天叙大喜，立刻发兵，也来不及与朱元璋合兵，竟然与张天佑擅自率军东下。谁知刚到秦淮河，就碰上元南台御史大夫福寿带兵阻拦。福寿手持大刀，左旋右舞，勇猛无比，二人斗不过他，正要逃走，忽然看见前面来了一队人马，为首的一员统领挺枪而来，仔细一看原来是陈野先。张天佑高兴极了，以为他是来援应的，连忙上前招呼，谁知刚一靠近，竟被陈野先一枪刺中咽喉，死在马下。郭天叙见张天佑被杀，急忙逃跑，却被福寿赶上，手起刀落，劈成两段。陈野先一路追赶败兵，路过葛仙乡，被当地人设计害死。朱元璋听到消息后，一面收拢郭天叙的残兵败将；一面准备进攻方山，为郭天叙复仇。
这时又接到军报，蛮子海牙带领几万水兵夺回了采石矶，马上就要攻打太平府了。朱元璋想亲自带兵，常遇春却挺身而出：“不劳元帅亲征，只要让末将前去就可以了。”朱元璋说：“将军此去要小心，一旦有什么闪失，太平府或许还能保得住，和州肯定是要沦陷了。大家的家眷可都在那里！”常遇春领命，率领廖永忠、耿炳文等人驾舟离开。
当时是至正十六年的仲春，江上轻风四起，漂荡不定。刚刚接战时，蛮子海牙还是顺风。半天之后，风竟然随帆而转，常遇春马上顺风纵火，风助火烈，火仗风威，霎时把蛮子海牙的船缆尽行烧断，船也烧着，想扑救都来不及。常遇春大获全胜，蛮子海牙改乘小舟抱头窜逃，所有的兵舰都被常遇春夺了过来，凯旋而归。
这位高瞻远瞩的朱元帅没有了西顾之忧，立即亲征集庆。陈兆先不知死活，还率兵阻截。一场角逐之后，陈兆先以及三万六千名士兵全部投降。将士们担心降众过多，怕有什么变乱。朱元璋就在降兵中挑选五百勇士，撤下自己的亲兵，让降兵守卫自己的营帐。帐中除朱元璋自己外，只留冯国用一人。朱元璋宽衣解甲酣睡了一晚，什么事情都没有发生，大家这才宽心。
过了几天，朱元璋让冯国用带着五百名降卒冲锋陷阵，五百人感激之至，赶到蒋山击退元兵，直达金陵城下。元将福寿筑下栅栏，屯兵固守，冯国用率兵攻打，徐达、常遇春等人接踵而至，你推我扳，竟然将栅栏毁掉了。元兵四散而逃，元将福寿督兵出战，寡不敌众，接连被杀退。徐达、常遇春等人猛力围攻，一连攻了几天，才将城池攻破。福寿仍然巷战到天黑，直到精疲力竭，才大声喊道：“城存我存，城亡我亡！”说完，举剑往脖子上一抹，鲜血四溅，顿时毙命。
金陵城已被攻破，诸将拥着朱元璋入城。朱元璋下令揭榜安民，并对百姓们说道：“元朝失政已久，致使生灵涂炭。我到这里，无非是为百姓除害，你们各操旧业就好，不要害怕！如果有贤人君子愿意跟着我立功，我一定会重用。旧政有什么不好的地方，你们可以提出来，我马上废除！”百姓们听了，无不拍手称赞。各处的义兵也纷纷投降，康茂才等人全都闻讯而来。于是，朱元璋募集到五十万士兵，改集庆路为应天府，设置天兴建康翼元帅府，任廖永安为统军元帅，还任用了夏煜、孙炎、杨宪等十几个儒生。因为福寿忠义，为元朝殉节，于是朱元璋命人将他敛尸厚葬。
没过多久，朱元璋的军队攻克了镇江、金坛、丹阳和广德路。朱元璋将广德路改名为广兴府，让邓愈驻守。朱元璋威名远扬，诸将都劝他晋爵为王，朱元璋不答应，只是自称吴国公。他设置江南等处行中书省，任李善长、宋思贤为参议，陶安、李梦庚等为左右司郎、中员外郎都事等官；设置江南行枢密院，让徐达、汤和同任枢密院事；设置帐前亲军，任冯国用为总制都指挥使；设置前、后、左、右、中五翼元帅府，以及五部都先锋。一切设官分职，井井有条。接着派人到和州迎接家眷，将其护送到元朝的御史台居住。一时间骨肉欢聚，喜气洋洋。大明两百多年的基业，就从这里开始了。
徐达、汤和等人南下镇江的时候，收降了盗匪头目陈保二。后来，陈保二竟然背叛朱元璋，诱捕了两名守将，前去投奔张士诚。张士诚此时一连攻陷了平江、松江、湖州、常州，又收降了蛮子海牙的遗兵，声势不小。陈保二前来归降，张士诚自然一并收留，并将两名守将扣住。警报传到应天府，朱元璋担心两名守将会遭毒手，只得先与他们通好，以便索回二将，于是写了一封信命杨宪给张士诚送过去。没想到张士诚看完信，竟然大怒，喝令左右将杨宪扣住，然后发兵攻打镇江。朱元璋派徐达防御，在龙潭将张士诚的兵马一鼓击退。张士诚得不到镇江，就移兵偷袭宜兴，守将耿君用来不及防备，城陷身亡。朱元璋急忙派人给徐达带话：“张士诚诡计多端，已经公然与我为敌，还偷袭宜兴，可见志向不小。将军应该速速出兵常州，以进为守。”徐达得令后，立即进发常州。
徐达到达常州后，筑垒围攻。张士诚派张、汤两位将领前来支援，徐达立即退军十八里，设下埋伏，自己则带着老弱残兵前去诱敌。张、汤两位将军出营交战，望见徐达部下的兵械乱七八糟、七长八短，不禁大笑，互相说：“人说朱元璋用兵如神，我看是乌合之众、不值一扫啊！”当下麾兵出战。徐达边战边退，转眼间就退了十几里。忽然两旁闪出几千铁骑，横冲而来。二将慌忙掉转马头往回逃，徐达部下的赵均用一路追杀，将二人擒获。
张士诚诚惶诚恐，只好奉书求和，表示愿意每年献纳军粮二十万石、黄金五百两、白银三百斤。朱元璋回信指责他轻易挑衅，并表示如果想议和，就放掉俘虏，每年献纳五十万石军粮。十几天过去了，张士诚没一点消息。又过了几天，徐达报称：“镇江的新附军被张士诚诱降，在牛塘叛变，我差点被他们困住。幸好常遇春、廖永安、胡大海等人前来支援，才侥幸脱险，并擒住张士诚的部将张德。”朱元璋勃然大怒，立即命耿炳文率一万兵马，进攻长兴；俞通海、张德胜等人率水兵攻打太湖；张鉴、何文正带兵攻打泰兴；赵继祖、郭天禄、吴良等人会师攻打江阴，接着催促徐达速速攻下常州，不得有误。
张士诚听说常州危急，急忙派吕珍支援，另外命赵打虎援救长兴。耿炳文驰至长兴城下，正碰上赵打虎到来。赵打虎喘息未定，被耿炳文迎头痛击，只好退走，守将李福安等人随即出城投降。
耿炳文收降了几个人，又获得战船三百余艘，立即上疏报捷。朱元璋下令设置永兴翼元帅府，任耿炳文为元帅，统兵把守。张士诚派左丞相潘原明、元帅严再兴前来攻打长兴。还没到城下，就被耿炳文的伏兵袭击，四散而逃。这时，只有常州相持不下，常遇春分兵四路，截断他们的粮道，城里没有吃的，吕珍免不得惶恐起来。他屡屡出城突围，都被徐达击退。后来，城里的粮食全部吃完，几千士兵饿死，吕珍顾不上守城，趁着夜黑，打开城门溜走了。常州随即失陷，徐达引兵入城。