整编第74师被围后，国民党统帅部认为决战时机已至，企图以整编第74师为中心拖住华东野战军，同时调周边各部队增援孟良崮，对华东野战军实行反包围，一举达成歼灭华东野战军主力的决战任务。第1兵团司令汤恩伯一面致电张灵甫，命其固守孟良崮，“协同友军予匪痛击，以收预期之伟大战绩”；一面令驻桃墟的整编第25师、驻青驼寺的整编第83师、驻汤头的第7军和整编第48师、驻蒙阴的整编第65师，以及驻新泰的整编第11师速向孟良崮增援，并令孟良崮外围的第5军和整编第9、20、64师向孟良崮运动，对华东野战军形成强大压力。上述部队距离孟良崮至多不过一两天的路程，但在华东野战军的坚决阻击下，并未用尽全力，多则前进十几公里，少不过三五公里，再次暴露出国民党军缺乏协同、不能互救之顽疾。担任山东作战任务的国民党军各部，原有指挥系统不一，战场配合亦不无矛盾扞格。5月13日，蒋介石致电临时配置于第5军指挥的整编第85师师长吴绍周，要他处理好国民党军内部的矛盾：“惟闻我方将领间有不睦情事，殊为系虑”，“此次淄博之战，不能不增厚邱军（第5军邱清泉部）实力，而将弟师编入于该路，暂归邱军长之指挥。务希以大局为前提，不以阶级位置是论，时时遵从上级命令，达成所赋之任务。”然而尽管有蒋介石之耳提面命，每临实战之时，许多高级军官首先考虑的仍是己部之安危，对于救援他部总欠积极。战场主官对下属的如此作为亦时感无可奈何。自全面内战开始后，张灵甫指挥所部自苏北一直攻至山东，自视甚高，对其他部队之每每企图保存实力啧有烦言。此役开始前，张灵甫有感于此，在给蒋介石的电报中愤愤不平地说：“以国军表现于战场者，勇者任其自进，怯者听其裹足，牺牲者牺牲而已，机巧者自为得志，赏难尽明，罚每欠当，彼此多存观望，难得合作，各自为谋，同床异梦，匪能进退飘忽，来去自如，我则一进一退，俱多牵制，匪诚无可畏，可畏者我将领意志之不能统一耳。”（《总统蒋公大事长编初稿》卷六（下），446页；《蒋中正总统档案·筹笔（戡乱时期）》第16003号。）此役恰恰证明了张灵甫的担心。不过张灵甫万万没有想到的是，以己部之强大实力，会在周边数十万友军之坐视中被歼。直至其战死，离孟良崮最近的整编第25师仍徘徊于10里开外的界牌，张灵甫终为其自信轻进付出了惨重代价。
5月16日，华东野战军对整编第74师发起总攻，全歼其部3.2万余人，师长张灵甫、副师长蔡仁杰等多名高级军官被击毙。中共华东野战军司令员陈毅和副司令员粟裕在国民党军重兵环伺的巨大压力下指挥若定，终于战胜对手，实现了他们战前所发“百万军中取上将首级”之豪言。当天，蒋介石手令山东各部：“竭尽全力，把握此一战机，万众一心，共同一致，密切联系，协力迈进，各向当面之匪猛攻……如有萎靡犹豫，逡巡不前，或赴援不力，中途（停顿）以致友军危亡，致使匪军漏网逃脱者，定以畏匪避战，纵匪害国，贻误战局，严究论罪不贷。” (《孟良崮战役》，428—429页。)面对优势国民党军的进逼，华东野战军迅速脱离战场，蒋介石的决战计划再次落空。5月19日，蒋飞抵徐州，与陈诚、顾祝同等商讨山东军事，决定各部暂驻原防，实施全面整训，改正战术，期作最后决战之准备，国民党军在山东的攻势暂告一段落。
以整编第74师之实力，以其友邻部队相距不远之事实，结果仍被全歼，震动了国民党上下。蒋介石“悲哀痛愤”，“尤增愤激”，痛责“高级军官已成了军阀，腐败堕落，自保实力，不能缓急相救”，“各级指挥官每存苟且自保之妄念，既乏敌忾同仇之认识，更无协同一致之精神，坐是为敌所制，以至各个击破者，实为我军各将领取辱召祸最大之原因”。(《总统蒋公大事长编初稿》卷六（下），462—467页。)为追究此役失败之责任，整编第83师师长李天霞被“革职拿办，交军法审判”（次年被重新起用）；整编第25师师长黄百韬被告诫；第1兵团司令汤恩伯被撤职，由范汉杰接任。在山东的国民党军将领大半被召到南京，检讨此役得失以及军队战术、精神、纪律等方面的缺失。蒋介石自信其指挥正确，将失败责任完全诿于下属，批评他们对其手订之军事计划没有遵照实行，认为“这就是你们一切失败的总因”。此后，一直负责指挥作战的参谋总长陈诚失去指挥权，并在8月份被打发到东北，接替熊式辉担任东北行辕主任。国民党军的作战改由蒋介石直接指挥，重要作战行动“必受到蒋先生亲署命令方生作用”，从而更进一步养成了前线将领对所谓“手令”的依赖，不利于他们适时因应瞬息万变的战场情况，发挥作战的积极主动性；而那些出于正宗嫡系的“天子门生”，更是非有“手令”不肯行动，也加剧了军队内部的派系矛盾，不利于需要高度配合协同的军事作战行动。而蒋“远隔前方，情报不确，判断往往错误”，即便亲令，也是“一曝十寒，无甚效果”；何况，蒋介石既为国民党内独揽大权的最高领袖，党、政、军决策事务集于一身，可谓“日理万机”，个人精力毕竟有限，很难对每次作战都进行具体的指导，而其指挥之错误，又造成军队内部对其信任的下降。(《先总统蒋公思想言论总集》卷二十二，30页；《徐永昌日记》，1947年5月29日、7月30日、9月28日、11月22日。)蒋介石亲自指挥军事的结果，并未从根本上改变国民党军事由攻转守的不利局面。
经过一段时间的检讨总结，蒋介石将山东作战的方针定为“并进不如重叠，分进不如合进”，决定继续集中部队，重点进攻鲁中沂蒙山区的中共部队，以实现其肃清山东中共军队及其后方基地的目标。6月24日，国民党军发起对鲁中的进攻，企图压迫中共华东野战军主力脱离沂蒙山根据地而就歼。此次攻势，由第2兵团王敬久部和第3兵团欧震部分别担任左右侧翼掩护，而以范汉杰指挥第1兵团自南向北担任正面主攻。范汉杰以第5军和整编第25师居左，整编第11、64师居中，整编第9、65师居右，三路兵力在宽不过百余里的战线上密集向北推进。由于范汉杰兵团的兵力优势，华东野战军部队未作坚守打算，范兵团先后占领南麻、鲁村，并于7月11日攻占华东野战军在鲁中沂蒙山区的核心基地沂水。此时中共晋冀鲁豫野战军在刘伯承、邓小平指挥下，已于6月30日渡黄河南进，进行外线作战；在鲁中国民党军麇集一团、内线作战没有合适战机的情况下，为了配合刘邓部队的行动，华东野战军亦于7月初实行分兵作战，5个纵队转至外线，余下5个纵队由陈毅、粟裕指挥，继续在鲁中寻歼进攻的国民党军。由于此次分兵，华东野战军内线部队实力明显下降，又因为孟良崮战役的胜利，对己部战斗力估计过高，对国民党军战斗力过于轻视，致使内线作战未获预期胜利。
7月中旬，因为国民党军自鲁中抽调部队对付华东野战军外线部队在鲁西南的攻势，其鲁中部队暂时据守各点，华东野战军以此为歼敌之机，首先集中4个纵队发起对南麻的攻击。据守南麻的整编第11师（第18军）为国民党军头等精锐主力，也是陈诚赖以起家的基本部队，自江西“剿共”时期起，即与中共部队多次交手，具有丰富的作战经验。师长胡琏机敏精干，上年9月鲁西南张凤集作战时，整编第11师在一部被围的情况下，靠自身实力救出被围部队，与中共晋冀鲁豫野战军打成平手。此次进占南麻后，胡琏有感于态势较为孤立，立即下令筑工守备，构成了以地堡为中心的完备防御工事。7月17日，华东野战军以3个纵队发起对南麻的进攻，遇到整编第11师的顽强抵抗，攻坚不利，进展甚慢，时值天降大雨，装备受潮，更对攻击不利。此时，国民党援军4个军（师）逼近南麻，担任阻援的只有华东野战军1个纵队，受命参战的外线叶飞、陶勇2个纵队因天雨泥淖、路途险阻而被国民党军困于鲁南，无法赶到战场。攻击南麻的华东野战军已处于国民党军夹攻的危险之下，21日被迫放弃攻击。此时部队已较为疲惫，亟待休整，但华东野战军指挥部思虑不周，又命部队于转进途中于24日起改攻临朐第8军。第8军军长李弥亦为国民党军悍将，十年内战时期曾在江西参加“剿共”，具有与中共作战之经验。他率所部于21日刚刚进占临朐即奉命进援南麻，时值南麻解围，中共部队移师转进，李弥自觉态势危险，立即督率所部赶筑工事，稳固防务。自24日至29日，华东野战军对临朐连续发动猛攻，并一度攻入城内，进行巷战，李部则顽强据守，并得到空军的大规模轰炸支持。华东野战军在大雨中多日攻击不克，终以疲师而无法久持，只能在国民党援军的威胁下再次被迫撤离。在这两次作战中，华东野战军对对手的战斗力过于轻视，投入攻击的兵力为3个纵队，未能形成绝对优势，而且第二次还是未经休整的疲惫之师，阻援部队仅有1个纵队，不能阻挡对手的增援（孟良崮战役投入5个纵队攻击，4个纵队阻援）；尤其是对整编第11师这样一支与中共有交手经验、装备精良，又是以逸待劳的精锐部队，轻敌的结果导致未能一鼓而下，形成被动局面；再加上事先未料到连续大雨的天气，大大影响了部队的后勤供应和战斗力。华东野战军内线部队在这两次作战中损失近22万人，并被迫撤离鲁中，转至胶济路北和胶东一带休整，外线部队亦在鲁南几临险境，减员近3万人，从而在华东野战军内部引发争论和疑虑，认为是“打了败仗”。粟裕为此专门解释，这“不是败仗，也不能算胜仗，只是打了个平手仗、消耗仗”。华东野战军在战后对此两役的经验教训进行了认真的总结。粟裕认为，几仗“均未打好，影响战局甚大”，原因主要是“对当前战局亦过分乐观，而对蒋顽继续维持其重点进攻之判断错误”，“随之发生轻敌”，加以“七月分兵，失去重点”。陈毅和谭震林则认为，主要是由于“军事部署上的错误与战术上的不讲究”。尽管他们对失利原因的看法不尽相同，但粟裕坦诚地表示，他对所有战略指导和战役组织的缺点错误均应负全责，并自请处分。陈毅为此致电中共中央军委，表示“我党二十多年来创造杰出军事家并不多。最近粟裕、陈赓等先后脱颖而出，前程远大，将与彭（德怀）、刘（伯承）、林（彪）并肩前进，这是我党与人民的伟大收获”；并表示此次“事前我亦无预见，事中亦无匡救，事后应共同负责”。中共中央军委复电完全同意陈毅的意见，宽慰陈粟“几仗未打好并不要紧，整个形势仍是好的。请安心工作，鼓励士气，以利再战。”(《粟裕传》编写组：《粟裕传》，623—630页，北京，当代中国出版社，2000；王辅一：《华东军区第三野战军简史》，239—241页，北京，中共党史出版社，2002。)