为了配合涞灵、榆辽地区的作战，第120师首长决定，组织部队再次破袭同蒲路北段，要求第358旅破击原平至宁武地段，独一旅破击忻县至原平地段，特务团掩护后方联络。战斗中，前线各部队统由第358旅指挥。
9月14日，第358旅从娄烦以西地区出发，向马家沟集结。百团大战开始以来，同蒲铁路遭到八路军袭击后，日军已经在铁路两侧的一些重要据点集结兵力，设置多种障碍。这次破路，八路军必须先扫清前进道路上日伪军设置的障碍。
9月18日午夜，第358旅所辖第7、第8团、特务营官兵开始袭击头马营。旅首长考虑到日军可能增援，即以特务营向头马营据点发起攻击，以第7、第8团在日军可能增援的地域设伏。战斗发起后，宁化堡40多名日军果然在19日黎明时向头马营增援，行至山寨村时，被八路军第7、第8团包围，将其全部歼灭。一场战斗，战前谋划周到，胜利就来得更快。
9月16日夜晚，独立第一旅东渡汾河。18日，将刚进入上庄据点的400多名日军包围，13时发起攻击，激战至19日凌晨，旅主力撤出战斗，执行新的破袭任务。这次战斗，独一旅毙伤日军约200人，自己伤亡105人。
9月22日夜，第358旅第4团与师特务团一起，在同蒲铁路段家岭、轩岗之间进行破袭。
第2团袭击奇村日伪军据点。9月25日，第715团破坏了大牛店、轩岗之间的铁路。
第120师官兵经过连续多天的破袭战，有力地打击了日寇，同蒲铁路的交通再次中断，使日军蒙受重大损失。
1940年10月15日，日军华北方面军向日本陆军省报告战况时，不得不承认，“石太线被破坏之广泛及其规模之大，远非其他地方可比。”
华北方面军在当时的《作战记录》中记载：“盘踞华北一带的共军，根据18集团军总司令朱德的部署，发动了所谓百团大战，于昭和15年8月20日夜同时奇袭我交通线及生产基地。尤其在山西，其势甚猛。袭击石太路及同蒲路北段警备队的同时，并炸毁和破坏铁路、桥梁及通讯设施，使井陉煤矿等的设备，遭到彻底破坏。此次袭击，完全出乎我军意料之外，损失甚大，恢复建设需要相当长的时间与大量资金。”
百团大战第2阶段，攻坚战多了，破袭战比第1阶段少了。涞灵、榆辽战役，给日军以重大打击。由于攻坚作战，参战部队的伤亡增加了。由于战争全局尚未发展到坚守重要城镇的阶段，八路军攻涞源未克，及时转移兵力进行破袭战；随着敌情变化，放弃一些已经被我攻克的日军据点，转而在运动中寻求战机，在游击中歼灭日伪军，这不仅使自己始终处于主动地位，使日军始终处于被动挨打的境地，更重要的是在抗日战争的实践中创新了战役战法，丰富了战争艺术的宝库。
1940年10月2日，彭德怀、左权、罗瑞卿、陆定一致电“各兵团并报军委总政”，肯定了战役成果。电文指出：“百团大战一二阶段取得了伟大胜利，开辟了华北大规模进攻的新记录，证明了敌人的交通线与据点不是牢不可破的，大大地削弱、沮丧与疲劳了敌人，兴奋了全国，提高了我党我军地位，打击了投降派，巩固与开拓了根据地，锻炼了党政军民，提高了部队战斗力，保证了秋收秋耕，缴获了许多军需资材，对于百团大战的胜利任何估计上的悲观失望都是极端错误的。”
电文同时提出，“目前敌寇正集中力量进攻安南、云南、重庆，这正是开展华北战局的良机。我们的任务是再接再厉，扩大胜利，只有这样才能大量吸引敌人，真正做到破坏其进攻昆明、重庆、西安的战略计划，争取时局的好转。只有这样才能真正缩小敌占区，巩固抗日根据地”。
反“扫荡”斗争
华北地区的日军遭到八路军近两个月的连续打击以后，深深感到八路军对其华北驻军的威胁。为了稳定华北的局势，维护其在华北的利益，从10月上旬开始陆续调集重兵，对华北各抗日根据地进行残酷的“扫荡”。
日军所到之处，大肆烧杀、奸淫掳掠，残暴之极。
在这种形势下，发扬连续作战的精神，坚决反“扫荡”，成为八路军的主要任务。百团大战发展到第3阶段，在作战样式上由破袭战演变为反“扫荡”。
1940年10月19日24时，朱德、彭德怀、左权联名下达了第3阶段的作战命令。命令指出：“百团大战后敌抽集兵力向我大肆‘扫荡’”，“各部应注意速做反‘扫荡’的准备”。八路军首长提出的准备工作主要有以下4项：
1.敌人对我采取空前毁灭政策；我党政军民密切配合，深入战争动员，领导空室清野。
2.军队应集结适当位置，休整准备坚决歼敌一至二路，广泛开展游击战争，打击敌人，分散部队。
3.为了保持长期不断战争，注意兵员补充。
4.各部队应有粉碎敌人扫荡而配合作战，互相策应，共收战争胜利之功。
根据八路军总部的部署，华北抗日根据地展开了一场悲壮激烈的反“扫荡”战斗。抗日军民打击日本侵略军的号角又吹响了。
太行根据地是中共中央北方局、八路军总部所在地，也是日军重点“扫荡”的一个地区。
10月6日，驻于冀西武安的800多名日伪军，开始对阳邑一带进行“扫荡”。“扫荡”是一种及其野蛮、残酷的侵略行为。日军的战斗编队中，就有烧毁各种设施的放火队；有搜索、挖掘埋藏物资的搜索队；有负责搜山、清乡，捉获群众的捕捉队。日本侵略军在大“扫荡”中，妄图以野蛮的“三光”政策摧毁抗日根据地。
10月11日，日军调集了3000多人，分两路对太行根据地的榆次、辽县、武乡、黎城之间地区进行大规模“扫荡”。其中，日军独立混成第4旅团一部兵力，从武乡出发，第36师团一部兵力，从潞城、襄垣出发，南北策应，“扫荡”抗日根据地。日本鬼子每到一地，就对根据地的兵工厂、被服厂、医院、学校、房屋、粮食、耕畜、生产工具乃至水井、水源等，全部进行彻底破坏，对于被捕的女性则强奸、轮奸，直到践踏致死；对于被捕的男性，或则充当苦役，或则全部杀死。
八路军指战员内外线配合，坚决打击日军。第129师第385、第386旅，决死第1纵队等部队在内线阻击，新编第10旅在外线作战，互相策应。10月15日上午，新编第10旅2个团抓住战机，在和辽公路弓家沟地段设伏，突然袭击日军汽车队，击毁日军汽车40多辆，歼灭押车日军400多人。日军遭到这次歼灭性打击后，半个月都不敢在和辽公路上进行运输了。
10月14日，八路军总部从王家峪村转移到砖壁村，砖壁村的地形比较隐蔽。紧张的反“扫荡”开始后，彭德怀率领八路军总部指挥机关，转驻黎城县栓马、宋家庄一带。
10月20日，日军第36师团、独立混成第4旅团近万人，分别从武安、辽县、武乡、潞城等地出发，开始更大规模的“扫荡”。这次“扫荡”，日军的意图很明显，矛头直指中共中央北方局、八路军总部机关、第129师师部、晋察冀边区党政机关所在地。这时候，根据地军民刚刚打退一次“扫荡”，没有预料到日军的第2次“扫荡”来得这么突然，兵力又这么多，主力部队还没有来得及转移到外线，一时处于被动地位。日军进入合击区的数日里，到处进行疯狂的“清剿”、烧、杀、抢，残暴至极。
“扫荡”这种残酷的暴行，在千百年的人类战争史上是罕见的。在冀晋边界，日军为了搜索抗日军民的物资，在可疑的地方掘地3尺，洗劫之后，还实行严密封锁。更为凶残的是，在北迄五台山南台脚下的石咀，经门限石、耿镇、高洪口、东峪口、柏兰至下社、上社等地，南北长50余公里，东西宽30余公里的区域，血腥制造了1个无人区，在这一区域内，村庄焚尽，水源破坏，资财掠空，树木砍光，人民群众不是被抓走，就遭到屠戮，尸骨横野，遍地殷墟。
为了摆脱被动局面，八路军总部和第129师首长决心寻求战机，坚决歼灭一路日军，震慑其余日军。抗日战争，广泛发动人民群众，大量歼灭日军有生力量，是根据地军民反“扫荡”的一项最有效的手段。第129师关家垴战斗，给“扫荡”的日军以歼灭性打击。
10月下旬，日军第36师团所属岗崎大队500多名官兵，向八路军总部附近的水腰兵工厂附近进犯。彭德怀当时正在黎城指挥部，得知这一情报后，非常恼火，命令部队密切监视这路日军的动向。水腰兵工厂位于太行山脊黎城县的黄烟洞谷中。黄烟洞四面都是险峰，只有南面有1条天然的裂缝，人们进出都要通过这条裂缝。八路军在敌后作战，武器弹药的补充十分困难。1939年，朱德、彭德怀、左权等八路军领导人亲自察看地形，决定在黄烟洞谷中建造一个兵工厂。于是，八路军指战员精心设计，把总部的军械所搬迁到黄烟洞谷中，经过艰苦创业，终于发展成为一个月产400多支步枪和大量弹药的兵工厂，用来解决八路军频繁作战的需要。现在，彭德怀得知花费许多心血建设起来的兵工厂受到日军的袭扰，怒上心头。
10月26日，岗崎大队500多名日军遭到根据地军民的袭击后，从黄烟洞向左会、刘家咀等地进犯。彭德怀命令第129师集中主力，坚决歼灭该敌。
10月29日，日军进到武乡县蟠龙镇以东的关家垴高地宿营，准备返回武乡。第129师首长抓住战机，以第385、第386旅，新编第10旅主力，决死第一纵队2个团，迅速出击。指战员们早已摩拳擦掌，听到刘伯承师长和邓小平政委的一声号令，象猛虎下山，在关家垴高地把日军包围起来。当晚，八路军总部发出命令，要求坚决歼灭该敌。八路军指战员连夜进行总攻前准备，决定于30日凌晨发起攻击。
关家垴高地三面都是断崖，通向顶部的坡路很窄，是唯一的进攻道路。坡上那个小村子里，原来住着10多户人家，日军开始“扫荡”后，这些人家早就搬走了。日军遭到八路军的围困以后，为了摆脱被歼灭的命运，半夜里突然以1个中队的兵力袭击关家垴西南面的风恼顶高地，占据风恼顶高地。关家垴和风恼顶两个制高点，互为犄角，日军占据这两个制高点后，立即构筑工事，固守顽抗。
战斗发起前，第386旅旅长兼太岳军区司令员陈赓对彭德怀说：“彭老总，现在拼了，以后怎么办？可以把岗崎放下山去，另选有利地形，打他的伏击嘛！”
彭德怀没有接受陈赓的建议。
彭德怀要求总部特务团参加攻坚战。攻击发起前数小时，左权参谋长召集八路军总部特务团的营以上干部布置作战任务，要求特务团提前发起进攻。左权布置完任务后说：“我们之所以要在凌晨3时前发起进攻，是因为日军在我们的围困下已经疲惫不堪。眼前这两股日军刚刚构筑完工事，现在是最疲劳的时候。我们作战就是要趁日军失去警惕的时候去突然偷袭。”
10月30日凌晨，第129师指战员向被围于关家垴的日军发起攻击，为了分散和孤立日军，第129师以部分兵力攻打风恼顶。日军在飞机的支援下，顽强抵抗。八路军勇猛攻击，突入敌阵，与日军展开肉搏战。
10月31日拂晓，八路军歼灭日军400多人，其余60多名日军逃到一个孤立突出的台地上。这块台地顶部开阔平坦，四边峭岩壁立。日军上台地后，挖了不少猫耳洞，死守阵地。
下午，1500多名日军在10多架飞机的支援下，从黄烟洞方向赶来增援。第129师首长看到关家垴的日军基本被歼灭，来援日军的兵力也不小，难以将其全部歼灭。为了争取主动，命令部队迅速撤出战斗。
关家垴阵地上的60多名日军在增援部队的接应下，丢弃280多具尸体，狼狈地逃跑了。