战役第一阶段，第129师所属各部队分两路行动。一路是以第129师6个团，决死第一纵队2个团，8个独立营的兵力，组成左翼破击队、右翼破击队和中央纵队，攻击正太铁路西段。另一路以2个团会同平定、辽县、榆次等地方武装一起，破击平辽公路、榆辽公路，牵制各据点的日军，保障主力部队侧后的安全。
左翼破击队由第386旅所属第16团、决死第1纵队所属第38、第25团组成，主要任务是破击正太铁路山西省内的寿阳至榆次段。
8月20日夜晚，大破袭战打响了。
左翼破击队在第386旅陈康旅长的指挥下，第16团用5个连队的兵力首先向芦家庄车站发起攻击。芦家庄车站驻有日军原田大队的一个中队，有日军40多人，伪军20多人。战斗打响后，第16团的官兵一举突入芦家庄，连续攻克了车站外围的4座日军碉堡，歼灭了碉堡内的日伪军，缴枪50多支。
第16团向榆次攻击的2个连在工兵分队的配合下，炸毁了芦家庄到段延之间的所有桥梁。第38团顺利攻占了上湖、和尚足等车站。第25团攻克了马首车站。各据点的日军遭到八路军的突然打击，仓皇向寿阳逃跑。
8月21日，天刚破晓，八路军总部就忙碌起来，彭德怀收到了刘伯承师长发来的电报，电报称：“陈康旅连破碉堡4座，全歼守敌。”这是彭德怀收到的第一份告捷电报。紧接着，聂荣臻司令员也来电告捷。
右翼破击队由新编第10旅第28团、第30团组成，主要任务是破击山西省内阳泉至寿阳段的正太铁路。战斗打响后，第28团兵分3路，向狼峪、张净、芹泉3个车站的日军据点发起攻击，8月23日，八路军指战员攻克狼峪、芹泉的日军据点。第30团的指战员向桑掌和铁炉沟据点的日军发起攻击，歼灭日军130多人，当晚占领桑掌，彻底破坏了桑掌大桥。
这天突然下起了大雨。刘伯承、邓小平命令部队抓住战机，按计划行动，努力破击交通线。
第129师总预备队第772团两次袭击平定西南的日军据点，歼灭据点内的大部分日军，占领治西。第769团把落摩寺的日军连续围困10天，据点内的日军无法突围。8月31日，八路军把该据点内的日军全部歼灭。
8月21日，刘伯承、邓小平命令担任总预备队第14团抢占狮垴山高地，狮垴山位于阳泉西南4公里处，是正太铁路西段的一处咽喉要地，占领了狮垴山高地，就可以阻止日军从侧背攻击破路部队。当天，第14团即攻占狮垴山高地，控制了阳泉以西10多公里的铁路线，还对阳泉构成了严重威胁。
日军丢失狮垴山以后，连忙调飞机支援，企图夺回狮垴山。8月21日上午，日军集中了在阳泉的全部兵力，还把在阳泉的数百名日侨民也武装起来，强迫他们参加战斗，向狮垴山进犯。23日，日由200人增加到600多人，在近20架次飞机的支援下，向坚守狮垴山的八路军发动猛攻，日军还不惜使用化学武器。第14团官兵英奋战，打退日军的多次进攻，歼灭日军400多人，有力地保障了破路部队侧翼的安全。为了避免不利态势下的决战，第14团官兵坚守狮垴山6昼夜后，主动撤出狮垴山主峰，以少数兵力继续钳制日军，主力执行新的破路任务。
为了扩大战果，连续打击日军，教育部队，鼓舞士气，第129师提出了一些深入指战员心灵深处的战斗号召。其中有“五不”等：
“不留一根铁轨，不留一根枕木，不留一个车站，不留一个碉堡，不留一座桥梁，彻底破坏路基。”
经过10多个昼夜的战斗，八路军第129师的部队控制了正太铁路西段除阳泉、寿阳外的大部分据点和火车站，破坏了大量铁路路轨，炸毁了一些桥梁和隧道。正太铁路线上，许多地段被八路军指战员夷为平地，被日军看作“钢铁封锁线”的正太铁路成了一条瘫痪的死路。
8月23日，朱德、彭德怀、左权和八路军政治部主任罗瑞卿、副主任陆定一联名致电聂荣臻、贺龙、关向应、刘伯承、邓小平，嘉奖部队官兵，要求猛烈扩大战果。
八路军首长的嘉奖鼓舞了前线指战员的士气和信心，破袭正太铁路的战斗打得更激烈了。刘伯承反复告诫部队指战员：“对正太路破坏得越彻底，我们就越主动。”刘伯承要求各破路纵队的负责人必须亲自察看重要设施的破坏情况，破坏不够彻底的，要组织力量彻底破坏。
根据8月8日的《战役行动命令》，“贺关集团应破袭平遥以北同蒲线，及破坏同蒲线及汾离公路。应以重兵置于阳曲南北，阻敌向正太线增援。该集团原拟一个团在阳曲以南配合作战，兵力较小，应加强之。如汾河可能徒涉时，该集团阳曲以南配合作战部队，应力求以约2个团之兵力进至榆次南北地区，直接加入刘邓集团作战，并归刘邓直接指挥之，对晋西北鹿地内各个敌之据点与交通点，应分派部队积极破袭，相机收复若干据点。”
“贺关集团”，即八路军第120师暨晋西北军区司令员贺龙、政治委员关向应指挥的部队。八路军第120师主力根据八路军总部的命令，挺进冀中，在贺龙、关向应的指挥下，积极开展敌后游击战争，牵制敌人。1939年2月2日清晨，当200多名日伪军向肃宁方向进犯时，八路军指战员突然向敌人发起攻击，歼灭敌人150多人。
两天以后，当近1000名敌人从河间西犯时，八路军指战员依托村落进行抗击，毙伤敌人300多人，粉碎了敌人的围攻。3月初，当200多步骑兵向黑马张庄进犯时，预先设伏的八路军勇士们突然发起攻击，把这些敌人歼灭，威震冀中。
大破袭战开始后，贺龙、关向应集中20个团的兵力，精心指挥，严格要求，组织部队对同蒲铁路北段和铁路以西的日伪军据点和一些主要公路进行破袭。
8月21日零时30分，第358旅第4团第2营向静乐县的康家会日军据点发起攻击。康家会位于忻静公路上，驻有日伪军50多人。康家会东北的石神，有30多名日伪军，康家会西南的静乐，有100多名日伪军。为了拔除忻静公路上这个最大的日军据点，第358旅精心筹划，以第4团1个营的兵力进攻康家会；以2个营的兵力预先埋伏在康家会以东的炭窑沟、青龙庄之间地域，一旦驻于石神的30多名日伪军前来增援，即有足够的兵力将其歼灭；另以第716团埋伏在康家会以西的砚湾，以对付静乐方向的日军。
战斗发起后，康家会据点的日伪军自知势单力薄，急忙向石神和静乐等据点的日伪军求援。当静乐方向的40多名日军乘2辆汽车前来增援时，被第716团的官兵在途中阻击，将其全部歼灭。石神据点的日伪军增援康家会时，也在途中遭到阻击，未能接近康家会就被八路军歼灭了。康家会据点的日伪军孤立无援，失去战斗信心。8月21日拂晓，该敌被第4团第2营的官兵全部歼灭了。
康家会战斗结束后，第358旅又以第4、第716团各一部向丰润据点的日伪军发起袭击，乘胜扩大战果。8月25日凌晨，八路军指战员顺利攻占了丰润山上的日伪军碉堡，取得了又一个胜利。
战斗结束后，八路军指战员发现丰润山下大庙内聚集了不少日军，正当他们准备组织火力对日军袭击时，日军的增援部队赶到了，第4、第716团的指战员即撤出战斗。
8月23日，第716团的官兵两次袭击寨子村。第2团官兵在当地群众的配合下，破袭公路，伏击离开据点的日伪军，袭击石门鄢、寺圪塔等日伪军据点，取得了可喜的战果。
大破袭战开始以后，在晋西北战场上，八路军第120师的官兵连续作战180多次，歼灭日伪军800多人，攻克了阳方口、康家会、丰润村等日伪军据点，一度切断了同蒲铁路北段的日军交通线，牵制了同蒲铁路附近的大量日军，与在正太路作战的晋察冀军区和第129师互相配合，东西呼应，提高了作战效果。
正太铁路沿线的日军到处遭到八路军的打击后，接连数日陷入混乱状态。但是，当日军基本查明战场情况以后，即紧急调动兵力进行反扑。
8月25日，日军独立混成第4、第9旅团与部署在白晋铁路、同蒲铁路南段的第36、第37、第41师团的部分兵力的配合下，向第129师反扑。独立混成第8旅团在与冀中、冀南抽调来的约5000日军的配合下，向晋察冀军区的部队反扑。八路军担任破袭战的各部队在继续破袭日军交通线的同时，抽出兵力对付日军的反扑。
八路军总部考虑到破袭正太路的第一步战役目标基本实现，于8月26日下达了第二步行动方案，要求各部队乘胜在正太路两侧开展战斗，力求收复深入我各个根据地内的某些据点，继续坚持正太路的游击战。
八路军副参谋长左权8月27日和29日，八路军总部再次强调，在继续执行破路任务的同时，要集中优势兵力歼灭日军。当日军离开据点出犯，当日军以1个营以下的兵力外出增援时，要集中兵力坚决将其歼灭。
8月31日，八路军副总司令彭德怀发出继续扩大战果的建议电，建议把晋察冀、晋西北、晋冀豫抗日根据地连成一片。
但是，日军利用现代化的交通工具迅速调整兵力，陆续增援正太铁路沿线各日军据点，向八路军破袭部队进行疯狂反扑。9月初，日军在正太路东西两端集聚了2万多官兵，企图从东西两面对八路军进行夹击。日军驻太原的空军连续出动，一面猛烈轰炸八路军阵地，一面多方设法联络日军的地面部队，协调地面作战。
在这种情况下，彭德怀和左权看到，“扩大战果已不可能”。9月2日，八路军总部命令，从9月3日起结束正太战役，各部队根据8月26日命令明确的行动方针转移兵力，准备实行第二步作战计划。八路军总部把握时机、有利有节的指挥，使部队在敌情变化的情况下仍在全局上掌握了主动。
八路军在转移兵力过程中，又打了一系列胜仗。
9月2日，日军集中第36、第37师团和独立混成第4、第9旅团各一部兵力，共8000多人，向正太铁路南侧的安丰、马坊地域的八路军进攻。当时，第一二九师师指挥所离日军来袭方向不远，刘伯承师长冷静地分析了敌情，迅速集中4个团的兵力抗击日军。这4个团的指战员不负众望，英勇地阻击日军，毙伤日军200多人，掩护师领导机关安全转移。
9月5日，日军第36师团永野大队600多名鬼子从太谷出发，向榆次北面的双峰镇进犯。
刘伯承得知这一情报以后，命令第772、第25团从北向南进击，第16、第38团由南向北进击，两路夹击这股日军。9月6日，第129师第386旅2个团，决死第1纵队2个团，把驻榆次西北双峰地区的日军1个营包围起来，经过激烈的战斗，7日拂晓，歼灭永野大队长以下日军400多人。
为了策应第129师的行动，晋察冀军区集中4个团的兵力，主动向正太铁路北侧盂县地区的日军出击。第2军分区所属第19团于9月5日晚赶到上社附近地域，与第2军分区特务营配合作战，截断了从下社和上社据点出逃的日军的道路。6日早晨，在兴道村把这股日军包围起来。日军负隅顽抗，经过近5个小时的激烈战斗，大部分日军被歼灭，只有80多名日军逃到罗里掌山。
谁知，八路军第19、第5、第16团的部分指战员早已在罗里掌山设下了包围圈，这80多名日军逃出一个包围圈，又陷入另一个包围圈。
9月9日夜晚，雾越来越浓。八路军指战员向被围日军发起攻击，歼灭日军40多人。在大雾中，少数日军突出包围圈，逃进盂县据点。
9月10日，八路军总部命令各部队结束第一阶段作战，部队进行休整，准备再战。
百团大战胜利的消息传到延安，毛泽东立即给彭德怀回电：“百团大战真是令人兴奋，象这样的战斗是否还可组织一两次”。
百团大战第一阶段，八路军部署周密，准备充分，行动突然，各部队猛烈破击日军占领的交通命脉，取得了重大胜利。正太铁路井陉至寿阳之间的所有桥梁、隧道都被炸毁，拆除了路轨、枕木，破坏了通讯设备。沦陷区的人民群众看到八路军成功地破袭日军的交通线，非常振奋，自发地组织起来，支援八路军作战。日军1名参谋在日记中写道：“正太路沿线各小据点，大半已被消灭。可以望见沿线制高点八路军了望哨。多处枕木被烧毁，铁轨被拆除，铁路、桥梁大部遭到破坏或损坏。沿途村庄，居民或逃走，或被八路军带走，房屋皆空。”
刘伯承师长9月20日在榆次以南的宋家庄第129师前方指挥所作《百团大战第一阶段战役总结》时，指出了这次战役的6大意义，即：提高了全国军民的抗战信心；振奋了敌占区民众，推动了瓦解敌伪军的工作；团结了友军，取得了威信；打击了敌人的南进计划；在国际上产生了积极的影响；锻炼了军民，积累了作战经验。
巧夺据点
9月16日，朱德总司令、彭德怀副总司令、左权参谋长联名下达了战役第2阶段作战命令。这项命令提出，第2阶段作战，基本目的是扩大战果，基本方针是继续破坏日军的交通线，摧毁深入抗日根据地内的日伪军据点。作战部署和主要任务是：
第120师“以截断同蒲北段交通之目的”，主要是集结主力破击宁武至轩岗段同蒲路。
“晋察冀军区以开展边区西北方面工作之目的”，主要是集结主力破袭涞灵公路，夺取沫源、灵丘两座县城，并以有力一部在同蒲路东侧配合第120师作战。
第129师“以收复榆次辽县之目的，开展榆辽地区斗争”，以重点破击榆次、辽县（今左权）公路，并以有力一部破击白晋铁路北段。
冀中、冀南的部队，要“打击日寇修筑沧石路、石德路、邯清路”，集中力量破坏各路段及前线路基。挺进军应以有力部队在平汉路北段、平绥路以及北平城郊积极活动。
八路军总部要求，“第2阶段之作战统于本月20日开始战斗。”
根据八路军总部的部署，战役第2阶段主要进行了涞灵战役、榆辽战役、破击同蒲路作战。那一段时间，华北战场的战斗日夜不息，日本侵略军的经济网、封锁网和交通线受到全面打击，日伪军占有的煤矿、电厂、铁路、桥梁、公路、车辆和电讯都遭到破坏，许多车辆被击毁，军事设施接连发生爆炸。
涞灵战役，主要是攻打河北省的涞源与山西省的灵丘两城为主的一系列战斗。