张士诚的势力范围是全国最富庶的区域，元人不肯轻易放弃这个重要的粮米之乡，对他是多次招降，而张士诚呢，则是反复不定，与元朝的关系是错综复杂。他既利用与元政府建立关系来对抗吴王朱元璋，又不甘心受元人的节制。在公元1363年，张士诚拘禁江浙丞相达识帖木儿，自立为吴王，史称东吴，以别于朱元璋的西吴，后来达识帖木儿自杀身亡。另外张士诚对红巾军起义反感极深，所以对朱元璋是强烈的反对，与朱元璋相邻的十年当中，是征战连连。从前陈友谅要张士诚一起夹击朱元璋，老张不出手。现在，老陈已败亡，张士诚反倒来了精神。1365年春，他派大将李伯升与朱元璋叛将谢再兴一起，率马步舟师二十余万，跨逾浦江，包围诸全之新城，造庐室，建仓库，预置州县官属，大作持久必拔之计。结果，朱元璋外甥李文忠与大将朱亮祖等人以少胜多，把东吴军杀得丢盔卸甲，李伯升等人仅以身免。朱元璋指挥若定，麾兵又克泰州，数月后又击下张士诚的发家之地高邮。
1366年，朱元璋曾经发布了讨张檄文，在文中第一次公然指斥红巾军起义，将自己与义军划清界限，开始为自己建立封建王朝做舆论准备。在檄文当中叙述了朱元璋成功立业的经历，文中有六层意思，一是元朝失政，气数已尽，二是起义军妖惑百姓，实为叛贼；三是为地主官吏组织的民兵和义兵正名；国为自己起兵立名是吊民伐罪，承天治世；五声讨张士诚叛元的行为；六对征服的臣民，顺我者昌，逆我者亡，以严法制之。朱元璋建立新的皇朝，已经是指日可待的事情了。
就在这一年，徐达与常遇春会师攻淮安，克兴化，淮地皆平。五月份，又攻下于朱元璋来讲最有象征意义的龙兴之地濠州老家。朱元璋亲自至濠州，省陵墓，宴父老。宴父老是真，省陵墓吗，纯属瞎掰。他一家皆葬乱坟岗，席烂土浅，龙凤之尸早已被野狗吞食，哪里还找得到。大好形式下，朱元璋集团内部仍不少人高估张士诚势力，文臣之首的李善长就表示：“张士诚其势虽屡屈，而兵力未衰，土沃民富，多多积蓄，恐难猝拔。”武将徐达深谙主子意图，进言曰：“主公如今张氏骄横，暴殄奢侈，此天亡之时也，其所任骄将如李伯升、吕珍之徒，皆龌龊不足数，惟拥兵自重，贪财好色，以富贵而享乐者。
居中用事者，迂阔书生，不知大计。臣奉主上威德，率精锐之师，声罪致讨，三吴可计日而定！”老朱大喜，立命徐达出师。1366年9月，朱元璋以徐达为大将军，常遇春为副将军，率二十万精兵，集中主力消灭张士诚。朱元璋足智多谋，命二将不要先攻苏州，反而直击湖州，使张士诚疲于奔命，军队既然已经疲劳，然后移兵姑苏，必定会将其击败！有如此伟大战略家，不胜也难。二将依计，徐达等率诸将发龙江，别遣李文忠趋杭州，华云龙赴嘉兴，以牵制张士诚兵力。诸将苦战。在湖州周围，东吴兵大败，大将吕珍及外号五太子的张士诚养子等骁勇大将皆兵败投降，其属下六万精兵皆降。湖州城中的张士诚司空李伯升本想自杀殉国，为左右抱持不死，不得已也投降。
到了年底，在朱亮祖大军逼迫下，杭州守将谢五也被迫开城门投降。如此，东吴左右膀臂皆失，平江成为孤城，面临南西北三面被围之势。平江城坚兵足，一直打了十个月，才最终攻克。在派军出发打张士诚的同时，朱元璋派大将廖永忠迎接小明王，行于瓜州时，廖永忠入舱把韩林儿一刀砍死。然后把船凿沉，施施然回来复命。从此以后，朱元璋再也用不着打龙凤年号。杀韩林儿之事，当时后世不少人皆认定是朱元璋指使，但也有历史研究者认为此举实是廖永忠多事，丑表功媚主。朱元璋大可封韩林儿一个王号什么的软禁般养起来，用不着干这么此地无银三百两的小人事体。1367年，元至正二十七年，太祖吴元年，见围城三月不下，朱元璋也不着急，从建康发来对徐达的指示：“将在外，君不御，古之道也。自后军中缓急，将军便宜行之。”徐达接书感奋，更加细心和卖命。朱元璋见张士诚龟缩平江，志在必得，但也怕攻城死人太多。他原本之意就是围之困之，让老张最终不支出城投降。同时，老朱不断派人送书城内，以钱缪、窦融相比拟，劝老张自动归服。张士诚倔强，根本就不考虑。
延至七月，张士诚见城中粮余渐尽，他又是厚道好人，干不出杀人为食的恶事，便率绰号十条龙的上万亲军冒险突围。出城后，望见城左西吴兵队阵严整，心虚不敢轻易去攻击，便转至舟门，向常遇春营垒杀来。这下可是遇到了煞星，常遇春有勇有谋，百战良将，挥兵直前，与东吴兵激烈厮杀。同时，他又指挥善舞双刀的猛将王弼从另路绕出，夹击东吴兵，把张士诚万余扈卫精兵皆挤逼于沙盆潭中，杀掉十分之三，溺死十分之七，激战之中张士诚本人的马也不知是怎么给受惊了，急速前窜，张士诚猝不及防之下跌落水中，几乎被淹死。亲兵一见张士诚落水，赶忙冒死把他救起，以肩舆扛上，又逃回城中。一直过了十来天，才缓过劲来，张士诚咬咬牙，又亲自率兵从胥门突出。出于玩命心理，张士诚军勇锐不可当，打得正面拦击的常遇春部招架不住。如此天致良机，本来能突围，但这时站在城头上的张士诚弟弟张士信不知是坏了哪根神经，大呼：“军士打累了，可以歇兵”，马上鸣金收兵。张士诚等人愣怔之余，常遇春复振，掉头进击，把东吴兵打得大败，这一仗是把张士诚的军队杀得是不敢再想突围之事了。
形势危急如此，张士信这个此人竟然丝毫不知愁，总是没事人一样大城楼子上张盛宴，遍摆银椅，与亲信左右饮美酒，食佳肴。风度是大将的，计策是无脑的。仆从向他进献一个大水蜜桃，张士信欣赏久之，刚张嘴要吃，忽然城下发巨炮，恰恰打中张士信，这位爷脑袋被击烂，与桃汁一起四溅飞迸。
兵败弟死，张士诚仍旧很顽强，指挥城中兵民抵抗，杀伤不少西吴兵马。十月间，徐达展开总攻，百道攻城，东吴军终于是支持不住了，城池终于是被攻陷了。张士诚在府邸中闻城池已经失去了，不由得大惊失色，便对其妻刘氏说：“如果我兵败且死，你怎么办？”
刘氏乃是一个品性良德妇人，听了张士诚的话之后冷静答道：“大王请不要过度忧虑，妾必不负君。”言毕，她怀抱两个幼子，在齐云楼下积柴薪，命人唤来了张士诚的诸位妾室，与他们一起登上楼去，刘氏对诸妾说明了情况，并且表达了自己想以死来保持清白之心，诸妾无不应允，一个个都随着刘氏自缢身亡。刘氏在自缢前令人纵火焚楼，时值日暮。大英雄张士诚真是日暮途穷，独自呆坐室中良久，望着齐云楼的大火若有所思。然后，他投带上梁，准备上吊自杀。张士诚旧将李伯升受徐达谕指，到处寻找张士诚，刚好发现前主人在半空蹬腿，忙上前解救下来，号哭劝道：“大王啊，想您英雄一世，还怕不保一命吗！”说完把张士诚送到徐达处，徐达立即押张士诚上船，由水路送往建康。其间，张士诚一直坚卧舟中绝食。被押送建康中书省后，朱元璋派李善长“劝降”，张士诚大骂，两个人几乎动手。当夜，趁人不备，张士诚终于上吊自杀。昔日拥强兵占胜利时，张士诚内怀懦弱，坐失良机；当其被俘为虏时，辞无挠屈，绝粒自经，也不失为一大丈夫。
灭陈平张以后，朱元璋的势力扩大到两湖、江浙、赣皖和河南东南部，控制了全国经济条件最好、人口最绸密、文化最兴盛的地区。第二年朱元璋制定了南征北伐的大计，南北两路同时进军。当时，南方独立的军事势力还有；浙江的方国珍，福建的陈友定，四川的明玉珍，以及被元政府控制的两广和云南。依据叶兑当年的建议，朱元璋南征的策略是先降方玉珍，再以福建，然后下两广；云南路途遥远，四川闭国自守，可从容徐图。浙东台州人方国珍，元至正八年起兵抗元，占有沿海庆元、温、台各州县，元兵屡讨不克。刘基与他打交道，可说由来已久。元至正十三年，刘基为浙东行省都事，出于其维护统治阶级利益的本性，他向朝廷建议：“方氏首乱，数降数叛，乖戾多变，不可赦免，应该捕获归案，依法斩之。”但是由于方国珍贿赂一了大批的元朝的官员，朝廷根本就不听刘基的建议，接受方国珍的投降，而刘基则被扣上越权言事，擅权的罪名，弃置不重用。方国珍被授予元官之后，仍然是拥兵自握，根本就不接受朝廷的调遣，却利用官府的名义，大肆搜刮民财，掠夺国库，壮大自己的力量，扩大自己的地盘。
方国珍与刘基虽然有这一层姻缘，但他本是一位见风使舵，倾慕贤能的人，他对刘基仍然很敬重，不记前仇。刘基的母亲死后举行葬礼，方国珍还派人送来了吊唁信。这时，刘基认为朱元璋面对的敌人主要是陈友谅和张士诚，而对方国珍这股不小的势力，要暂利用，不宜采取以前的捕而斩之的老方法。因此，刘基写了一封长信，向方国珍说明朱元璋的威德和当前的军事形势，希望他察识时务，以图大业。又致信朱元璋，讲明暂时利用方国珍的意义，请他派人去招谕方国珍。方国珍收到刘基的信后，和他的弟弟说道：“现在元朝的运气将要消亡，群雄并起。唯独朱元璋的军队号令严明，所向无敌，现在又东下婺州，恐怕难于他争锋，何况与我为敌的，东有张士诚，南有陈友谅。我们不如按照刘基所劝告的，姑且依附于朱元璋，借为声援，静观其变。”这时，又恰好遇上朱元璋派来使者刘辰招谕方国珍。方在他们的共同劝说下，方国珍决定投降朱元璋，愿意合力攻伐张士诚，并献上黄金五十斤，白金一百斤，金织文绮进端。
在进取浙东的同时，同年的十二月，朱元璋实行南征的第二步，平定福建。陈友定原来是义兵的首领，因为与红巾军作战有功，升到福建省平章。后来不断扩大地盘，控制了闽中八郡。陈友定对元朝廷忠心耿耿，历年与西吴为敌。进军福建的路线分为三路：胡廷瑞和何文辉从江西进兵，廖永忠从明州水路进逼福州，李文忠从浦城取建宁。福州、建宁秀快就被攻克，东友定据守老巢延平。吴军几路围攻延平，在1368年元月，攻陷延平，陈友定被俘之后宁死不屈，殉身于应天。在这一年的九月，福建全省廓清。第三步是平定两广。在1367年十月，杨景和周德兴已经先期领兵由湖南进取广西。在1368年的二月，第二路由陆仲享由韶州取德庆，第三路廖永忠水师由福州下取广州。二路军进展顺利，很快占据了北江、西江，切断了两广间的联系。三路军主将廖永忠在广州说降了何真，和平获取了广州。然后率师沿西江进入广西。一路军进展最为艰难，每前进一步，都负出了重大的代价。永州和全州都是经过浴血奋战攻克的。两广战役最后的一战，是靖江围歼战，一路军和三路军会合后全力攻击，至1368年六月攻下了靖江。七月，两广全境被平定。中国南部除了云南和四川之外，尽入了朱元璋的手中。