十月，朱元璋以张士诚“屡犯其境”为由，挥师进攻东吴。他在出征之前发布讨张檄文，告谕天下人：这次的主要目标就是消灭张士诚的军队，不伤百姓。他针对张士诚淮东防守相对薄弱，而且与浙西中间隔着长江、南北兵力不便支援的特点，制定了“先取通、秦诸郡县，翦士诚肘翼，然后专攻浙西”的战略方针，有计划，有步骤地进行攻讨。朱元璋先攻取淮东，翦其羽翼。十月十七日，朱元璋派徐达、常遇春、冯国胜、华高等人率领马步舟师，水陆并进，直扑泰州，驻军安扎在海安坝上。张士诚守将严再兴坚守不出。徐达奉命疏通河道，以便舟师前进，最后包围了泰州，并且再次设伏击败张士诚的援兵。张士诚这回想来个声东击西之计，他先是出动400艘战舰驶进江阴东面的范蔡港，并向江阴方向游弋，作出一种直趋上流，攻取江阴的假样。果然，江阴守将康茂才见势不妙，赶紧向朱元璋方面告急。但朱元璋经过冷静分析后，识破了张士诚的意图。他认为，张士诚此乃调虎离山之计，醉翁之意不在酒，他这样做无非是诱使徐达回守江阴，分散他的兵力，然后再解泰州之围。于是，朱元璋派人传谕徐达不要上张士诚的当，命他只让廖永忠率一小部分军队去增防江阴，而大军仍留在原地，围攻泰州。后来，朱元璋又接到报告，说大将常遇春遇到敌兵的挑衅，出海安70里追击不过万余人的敌军。朱元璋心想这肯定又是张士诚的调虎离山之计，所以他立刻传命常遇春不得受敌引诱，立即调回兵马，继续攻打泰州。不管怎么说，张士诚的计谋都没有得逞。最后，徐达、常遇春等人还攻下了泰州。徐达乘胜追击，进逼兴化，击败守将李清后，继而攻打高邮。朱元璋担心徐达深入敌后，不便于策应诸将的联合进攻，影响全局的指挥调遣，所以命他火速还师泰州，坐镇调度，转而派冯国胜继续攻打高邮。高邮守将俞同佥派人到冯国胜军营中诈降，相约以推倒城中女儿墙为信号，让冯国胜等人进城。冯国胜信以为真，当晚即派康泰率1000人马入城受降，结果中了敌人的圈套，1000人全部被杀。朱元璋知道这件事后，非常恼火，把冯国胜叫到应天，打了他几十大板，并罚他步行回高邮。冯国胜回到了战场后，督令将士拼命攻城。后来，徐达也带着一行人马前来支援。两军会合，势不可当，高邮城被攻破了，冯国胜命人把俞同佥带来，亲手斩杀，以解心头之恨。随后，徐达挥师继而攻打濠州。濠州是朱元璋的老家，朱元璋自从参军征战之后，就再也没有回过那里。孙德崖死后，张士诚的部将李济占据了那里。李济是定远人，与李善长是同乡。朱元璋想劝降李济，特意让李善长给李济写了一封长信。李善长在信中说明两人本是同乡，然后又说此次进攻濠州乃奉主上之命，最后给他分析天下局势，陈述利害关系，并提出“盖豪杰之士，乘乱起兵，相为雄长，遇到明主应委身归附”，劝他归降朱元璋的门下。可李济接到信后，并不作答。受降之日一过，徐达命部将韩政开始进攻。首先围住四面城门，炮石齐发，并架设云梯攻入城内。李济等人实在抵挡不住这四面之围，最后只好放下武器投降。当朱元璋听到濠州已经攻克的消息后，大喜过望。他立即放下暂不繁重的公务，从应天动身北上，回到了他日夜思念的家乡。朱元璋已经十多年没有回家乡了，现在身为吴王，带着自己的执事、仪仗，以及大批随从，大队人马开始浩浩荡荡前往濠州钟离。一路上，威风凛凛，让人好不羡慕。回到家乡之后，朱元璋首先来到父母坟前。他身着麻布孝服，素冠白缨，在父母坟墓培土筑陵，举行了一场隆重的凭吊仪式。朱元璋又想起了曾给予他帮助的刘继祖和汪大娘。刘继祖早已不在人世，汪大娘还健在。朱元璋亲自拜见了汪大娘。汪大娘怎么也想不到当年的穷苦伶仃的朱重八竟有这么大的出息。朱元璋见到汪大娘就如同见到了亲人一般，下跪叩拜。朱元璋对汪大娘当年的恩德感激不尽，赐给黄金、绸帛，置酒宴请了左郊右舍的父老乡亲们，共叙旧情。最后，还叫来县官，让他免征当地的租赋。
至正二十六年(1366年)四月底，朱元璋已经相继攻占了兴化、宿州、安丰等地，淮东也已平定。同年七月中旬，朱元璋招来全体将士，召开军事会议，会议的主题是何时对张士诚的部队发起下一轮的攻击及如何攻击。会议上李善长认为张士诚目前屡遭挫败，但他手中仍握有重兵，仍不可小视，再加上他地广民富，盲目进攻恐怕取胜的把握并不大，要从长计议，寻隙而动。这也是众多将士们的观点。可是大将徐达不同意，他说：“我认为现在应该立即出兵剿灭张士诚，张士诚骄横暴敛，奢侈无度，正是讨伐他的大好时机。”朱元璋对众将领们说：“你们的话自然有一定的道理，但都没有说到点子上，知我者，徐达也，不错，现在正是大灭张士诚的大好时机，我们已经攻下了他的不少城池，绝不能让他有喘息的机会，否则的话，他东山再起，局面就很难控制了。只有徐达的看法符合我的意思，咱们来分析怎么对付这张士诚吧。”大将常遇春主张直捣平江，说：“捉鸟应奔其巢，捕鼠应堵其穴。我们应该直插张士诚的大本营，只要他的老巢平江一破，其他的地方则会不攻而下了。”朱元璋对常遇春的分析点头称道：“言之有理，不过，这样做未免有点急于求成，正如善长所说，咱们目前没有足够的实力去攻打他的巢穴。张士诚是盐贩出身，与湖州守将张天祺、杭州守将潘元明等人甚是要好，而张天祺、潘元明这二人都是蛮横之徒，互为手足。张士诚有难，张、潘两人绝不会视若无睹，必然会全力来救。援兵一到，我们更是难以取胜。我建议，咱们不如先攻打湖州、杭州，使他们疲于奔命，翦其羽翼，然后再移兵北上，攻其平江。这样就有十足的把握取胜了。”众将连连点头称是。最后，朱元璋下令诸将检阅士卒，择日启程，准备先攻取湖州、杭州、嘉兴，断其两臂。为了配合这次军事行动，至正二十六年(1366年)五月，朱元璋发布了一篇著名的讨张檄文——《平周榜》，展开强大的舆论攻势：“王者之师伐罪救民，自古昭然。轩辕氏诛杀蚩尤，商汤征讨葛伯，周文王攻伐崇武，这三位圣人起兵都是为了拯救天下的民众。时至今日，元主深居宫中，佞臣操纵朝政，贿赂朝廷便可当官，有人说情便可免罪，监察部门举荐亲近之人而弹劾仇敌，其他衙门也是虐待贫寒人家而优渥富人。朝廷不以这种状况为忧，还添设冗官，变更钞法，奴役几十万人治河，死者哀鸿遍野，怨声载道不绝于耳。结果，使愚昧之民误中妖术，相信荒诞的宣传，对弥勒的出世信以为真，寄希望于他能根治乱世，解脱百姓的苦难。于是，聚为烧香之党，在汝、颍一带活动，后来蔓延到黄河、洛水。在妖言的蛊惑下，谋乱造反，焚烧城池，杀戮士人。元廷动用了一切力量进行讨伐，仍无济于事，谋乱反而更加猖獗泛滥。由此，可见朝廷已无法救世于民，所以有志之士乘势而起，有的打着元廷的旗号，有的以香军为名，也有的自成体系。总之，都想有所作为，天下由此开始大乱。我本是濠州的平民，投身军旅后，统兵作战，感到妖言不能成就大事，又估计胡虏的气运即将断绝，因此引兵渡过长江。依赖天地祖宗的神灵以及将士们努力，一鼓作气拿下应天，再战平定了浙东。陈友谅称帝，盘踞在我的上游，我兴问罪讨伐之师与他交兵，将其击毙，他的家人衔璧肉袒向我投降。我不但没有处死他们，还给他们封爵列侯，并留用了他们的将相，使百姓各安其业。荆襄湖广之地，尽入我的版图。虽说德化未能普及，但也政绩斐然。如今姑苏的张士诚，为百姓时贩卖私盐，在江湖上打劫，起兵后又聚集凶残之徒，固守于海岛，这是他的第一条罪状；担心自己居海隅一角，难以与天下抗争，于是向元廷诈降，这是他的第二条罪状；窃据浙西，兵不满数万，地不足千里，却在这里称帝，此乃他的第三条罪状；开始侵犯我的边界时，我军活捉了他的兄弟张士德，再次进犯我江浙行省，我军锋芒所指，直逼他的辖境，使他不敢再得向前，从而他又一次向元廷诈降，这是他的第四条罪状；表面上接受元朝的官员，实际上却假借朝廷号令，挟制江浙行省左丞相达识帖睦迩，谋害左丞杨完者，这是他的第五条罪状；占据浙江的钱财粮物，十年不纳贡，这是他的第六条罪状；看到元朝纲纪已乱，便公然杀害行省左丞相达识帖睦迩和行台大夫普化帖木儿，这是他的第七条罪状；依仗地形险要，粮食充足，诱降我的将领，掠夺我的边民，这是他的第八条罪状。凭此八条罪状，完全可以对他兴兵问罪，平定天下，安抚百姓。
我已传命中书左丞相徐达统率步马舟师，分道并进，攻取浙西等处城池。并已告诫各位将军，大军所及，只惩办首恶，不问胁从。凡是从我这里跑过去的臣民以及被捕的将士，如有悔悟，前来回归，我则一律免罪。张士诚手下的巨谋，如有识时务为俊杰者，应举城投降，或放下武器，我则会毫不吝啬地给他们封官晋爵。百姓们只要是安守本分的，就是我的良民。旧有的田产房屋，仍归一律原主所有。有胆敢聚众抗拒王师的，我则立即遣兵剿灭。我说的话像天空日月一样明确，为的就是让你们臣民不要迟疑不决。”至正二十六年(1366年)八月初四，朱元璋命徐达、常遇春二人统军20万，水陆齐发，向太湖方向挺进。八月二十五日，抵达湖州城外的三里桥。湖州守将张天祺主动出击，分兵三路出城迎战。徐达也早已摆开了阵式，就等着张天祺放马过来。常遇春待张天祺等人冲上来后，与将士们一同拍马直冲敌阵，军士们摇旗呐喊，击鼓助威。面对身经百战的常遇春，张天祺不是对手。张天祺见势不妙，拨马而归，退回了太湖城中，闭门不出了。徐达和常遇春趁势包围了整个湖州。张士诚知道湖州被围后，派司徒李伯升前来解援。李伯升从城东的获港地区潜入了湖州。张士诚还是不放心，他又另遣吕珍、朱暹和他的太子张虬带领6万人马继续赶来支援。他们屯驻在湖州城东的旧馆，筑起了5个军营大寨，以便与城内的张天祺、李伯升等人互相呼应。徐达、常遇春还有刚从常州赶来的汤和等人攻占了旧馆以东的姑嫂桥，并在那里修筑了十座营垒，切断了张士诚的退路。张士诚深感大事不妙，他立即派女婿潘元绍从嘉兴出发，进攻旧馆东南的马镇，好与旧馆守军互为掎角，双管齐下，对付朱元璋的大军。但是徐达等人趁着潘元绍刚到还未立足，夜间便偷袭了他的阵营，潘元绍大败，撤回嘉兴。徐达此时又马不停蹄地填平附近的港沟，断绝湖州的粮道。使得湖州和旧馆两处的敌军均被孤立起来。在徐达大军对湖州进行攻坚战的同时，朱元璋还派李文忠攻打杭州，华云龙进攻嘉兴等地。此时平江的张士诚已经成了热锅上的蚂蚁，急得不知如何是好了。李文忠先攻克了新城和富阳等地，接着进兵杭州门户余杭。结果余杭守将出城缴械投降。余杭既下，杭州已无任何屏障，守将潘元明自然也是主动请降。李文忠等人整队入城，潘元明一席人马主动交枪，列队欢迎，还把杀害胡大海的苗军将领蒋英、刘震捆绑起来交给了李文忠。苏杭一破，张士诚的外围阵角已经是分崩离析，各自不保了，嘉兴和绍兴等地也是纷纷不战而降。至正二十六年(1366年)十一月二十五日，徐达率军直逼平江。平江是张士诚经营多年的城池，是他最初的根据地之一，粮草充足，城防坚固。徐达采用了围而不打的“锁城法”将其围困，慢慢地消耗他，并在城外筑起了长围，将城圈圈围住，层层锁住，使得平江与外地断绝了联系。徐达还下令架起木塔，城中的一举一动全都尽收眼底。这还不够，他还命人在塔上架起弓弩、火炮，昼夜不断地向城中轰击。这边徐达督军攻城，那边张士诚率众死守。这一打就是半年之久，平江虽未攻克，但城中守将早已精疲力尽，无心再战了。随着城中局势的恶化，张士诚曾多次企图逃跑，他最后一次的出城决战，被自家人给搅了。那天，他亲自率领亲兵出胥门迎战常遇春。张士诚的士兵们准备做最后的拼死一搏，个个作战英勇无敌，常遇春倒有些抵挡不住了，刚想撤退，只见城上督战的张士信却莫名其妙地大喊：“大哥，将士们累了，停止前进，赶快收兵吧！”说着便鸣锣收兵了。张士诚还没回过味