这时，日本已想侵吞朝鲜，以“保护”使馆和侨民为名大量派兵进入朝鲜并占领汉城。敌众我寡，在农历七月，聂士成率部在牙山附近的成欢驿与日军接战。聂士成当时的日记记录牙山之战较为详细：
廿六日，辰刻，叶军门驰至，问战守计。告以“海道已梗，援军断难飞渡，牙山绝地不可守；公州背山面江，天生形胜，宜驰往据之，战而胜，公为后援；不胜，犹可绕道而出。此间战事当率各营竭力防御，相机进止也”。叶军门从之，即率所部叶玉标等五百人往。下午，探报稷山有敌骑出没，乃登山望倭军，见马步大队驻振威，众约二三万，军容甚盛。我军马步不满二千，众寡悬殊，颇为顾虑。驰归。晚餐，于光炘来谒，称探得倭于今夜分两股，来袭成欢官军，截住公州去路。即传令各营皆饱食以待。成欢距振威三十里，西南有高山，遥对振威来路。前行十余里，有河桥为必经之道。东有小山，草深林密。东南一山，下有小径通稷山、公州。即令哨长尹得胜带炮队驻扎西南山顶，见敌过轰击之。令帮带冯义和率精锐三百伏河旁林际，敌半渡即出击。令哨官徐照德率百人伏山侧，并在山顶嘹望，何方有警，悬灯为号。令帮带聂鹏程领兵四哨守大道西沟畔，营弁魏家训领五百人为接应。令翼长江自康率仁营扼敌赴牙山路。令武备学生周宪章、于光炘等带健卒数十伏振威趋稷山道侧。营弁许兆贵率四百人扎成欢东角为声援。部署毕，慷慨誓师。众感奋，皆愿决一死战。
廿七日，五更时，倭前队果渡河桥，我军骤放排枪，毙敌数十。时夜色苍茫，敌猝遇伏，遽引退，桥小人众，挤拥坠水溺死甚众。我军逐之。敌设旱雷于后防追军，遽退，误触雷机，轰毙无数。我军少，不敢穷追。至天明，敌后队蜂拥至道口，与我军开枪互击。不虞尹得胜在山巅迭发大炮，歼敌甚多。正在得手，敌复翻山越岭，分道包抄，我军人自为战，莫不以一当十。自寅至辰，枪炮之声不绝，死伤积野，血流成渠，而敌愈聚愈众，布满山谷。我军四面受敌，犹复决命争首，抢占山头，轰击不停。时驰骋枪林雨弹中，往来策应，见军火垂尽，不得已率众溃围而出，至天安，与叶军门会，请军门先驰往公州，自为断后，一路招集残卒，晚宿广亭。是役，我军多埋伏地中，从暗击明，故死伤仅百余人，哨官吴天培、聂汝贵、学生周宪章、于光炘等皆力战捐躯。敌兵死伤千余，经此大创，遂不敢追。
牙山战后，聂士成奉命回国到天津募兵，转返中朝边界又突接李鸿章命令：“奉廷旨，前敌得力之员，着毋庸回津招募。”他遂转返平壤助战，昼夜行一百六十里，但途中得知日军已攻占平壤，守将左宝贵等阵亡，他又奉命渡鸭绿江回国。农历十月，淮军所部全军溃退，只有聂士成仍率军在中朝边界安东六百吊要隘，与日军相持一月有余。九月下旬至十月中旬，聂士成守辽宁摩天岭、大高岭一带，大批日军进犯，聂士成日记记录了九月二十五日至十月二十九日之间的战况：
九月廿五日，叶军门被议（注：叶志超因指挥无方溃逃被革职后斩首），奉旨以帮办军务宋祝三（即宋庆），宫保庆为全军统帅。是时士卒疲乏，粮械不给。马金叙芦防三营复奉调他适，兵力益单。请济师，不许。旋奉帅命，移师分堵栗子园、虎耳山。
廿六日，倭兵由上游浦石河偷渡鸭绿江，来攻虎耳山，众约四五千。率队出御，自卯至午，枪炮互击，杀伤相当。下午，敌来益众。我军弹药垂尽；旋报宋帅退守凤凰，势益孤，只得将快炮二尊埋藏地下，率众且战且走，小驻笔子沟。翌日，命兵丁掘地，将炮取出，辇之而归。
廿八日，率队至凤凰城，谒宋帅，命令移守摩天岭、石佛寺。时孙子扬、吕道生同奉帅命率盛军马步扎附近连山关、甜水站等处。
十月初四，宋帅提兵援盖平，添派八营，令分守大高岭一带。时凤凰城已为敌据。
十四日，倭以大队来攻连山关。盛军马队出战，众寡不敌，登时失守。闻警，驰救无及，不得已扼守山巅，竭力抵御。是时我兵少，乃于丛林张旗帜鸣角鼓为疑兵，并乘间出奇截杀、攻剿，时出时没，步步设防，重重埋伏，卧雪餐风，苦守十余昼夜，敌不能越。
廿六日，奉上谕，特授直隶提督。天恩高厚，时事艰难，不觉感泣。
廿九日，雪。夜，密约盛军接应，亲率数百骑乘敌不备夺回连山关隘。时敌在梦中惊觉，不知我兵多寡，逃窜分水岭，我兵开枪蹑击，毙敌无数，并阵毙倭酋富冈三造。天明，盛军队伍纷纷继至。……
聂士成在前线作战，善部署，多计谋，能率直并及时贡献好的策略及作战方案，但由于上司畏怯退缩，每每使他无法掌握战机。据他的《东征日记》，平壤战前他到达平壤后，见大军“漫无布置，隐切杞忧”，遂提出“各军宜择要分扎、防敌抄袭，悉驻平壤城中非策”，当时叶志超等均认为对，但未及时布置。1894年底，在连山关、分水岭战斗后，农历十二月初七，聂士成电请李鸿章、宋庆，建议“军兴以来，只闻敌来，未闻我往，此敌之所以前进无忌也。拟将岭防布置严固，率精骑千人直出敌后，往来游击，或截饷道，或焚积聚，多方扰之，令彼首尾兼顾，防不胜防，然后以大军触之，庶可得手也”。但李鸿章、宋庆“均复电来阻”，这种正确的游击战法遂未能实现。
聂士成带兵作战，不仅常常身先士卒、不避艰险，而且能与士兵同甘苦。在朝鲜及东北作战时，士兵衣服单薄，他遂脱下自己的厚衣，也穿得与士卒同样单薄。士兵受伤，他必亲自安抚并做出妥善安排。在前线作战归来，脱换征衣，身上全是虱子。
聂士成统率的军队成为当时的一支精兵。1898年，北洋军设武卫军，聂士成部三十营改为武卫前军。陈恭禄所著《中国近代史》说：“聂士成所部为前军，驻扎芦台扼守北洋门户；董福祥所部为后军，驻扎蓟州、兼顾通州一带；宋庆所部为左军，驻扎山海关，专防东路；袁世凯所部为右军，驻扎小站，扼守津郡西南要道……宋庆、董福祥所部虽历战争，然非新法操练，军械恶劣，其能战者惟聂士成、袁世凯所部之兵耳。”聂士成思想不保守，他主张部队请德国教官执教使用洋枪洋炮，并研究西方战法，故他的武卫军有较强战斗力。
1900年发生了义和团运动，聂士成先奉命“肃清畿辅”；八国联军侵华后，他又奉慈禧之命“调回聂士成一军，实力禁阻外兵北上”。
胡绳1981年在人民出版社出版的《从鸦片战争到五四运动》一书中谈到八国联军之役时说：“在天津的清朝官兵，只有聂士成（任直隶提督）所率的武卫前军……在天津保卫战中进行了比较英勇的战斗。聂士成自己于六月十三日在天津城以南的八里台为抵抗侵略军的进攻而战死。”“侵略联军在天津以北十公里的北仓遭到聂士成的残部和几千义和团武装群众的袭击（注：当时，聂士成曾将枪炮分发给义和团反侵略），发生了比较激烈的战斗。”陈恭禄在其《中国近代史》中说：“津沽于六月十七日作战，七月十四日城陷，恶战凡二十七日，为中国自订约通商以来未有之力战。其作战者全为北洋军队，时称武卫军，数约三万余人，由聂士成、宋庆、马玉昆统率，三人久历戎行，负有盛名，尤以聂士成所部为能战，其兵新法操练，军械精良，及其战死，宋庆等仍力堵防应战。”
四川人民出版社1995年10月出版的《爱国志士》一书，在“聂士成”一章中说：“1900年，义和团运动兴起，聂士成奉命剿办，此时八国联军趁机大举侵华，直入天津。聂士成分兵三路：一路保护铁路，一路留守芦台，自率一路守卫天津，顽强抗击八国联军。在军粮城重创侵略军后，他又率部猛攻天津租界紫竹林，浴血奋战八昼夜，与侵略军恶战数十次。八国联军不断增兵，以日本和德国部队为前锋，并燃放毒气炮弹，而聂士成没有援军。但他决心誓死报国。他亲赴各防区，同官兵商讨战斗部署，激励全体士兵。7月，他率部去八里台，同数倍于己的侵略军隔石桥对阵，他屹立在桥上，向部下大声疾呼：‘这是报国之日，宁死也不得后退一步！’激战中，他在负伤七处、军衣焦烂的情况下，依旧忍痛指挥作战。最后他肠胃流出腹外，殉国于战场。后人为纪念聂士成，把他战斗过的八里台石桥，命名为聂公桥。”
聂士成血战八里台的事迹，在侵华八国联军中一些外国人写的战事回忆录中，提到聂士成和他的士兵，满篇都是钦敬。
聂士成部下有个士兵名叫苏锡麟曾写过《京津蒙难记》，其中涉及聂士成的一些片断，是很感人的：
聂军门感到势难挽回，且为大将者应以身殉国，于是换上紫纱袍、黄马褂，冠带整齐，骑马亲赴前线督战。这时有一个步兵管带叫宋占标，跟随军门多年，见军门冠带整齐亲到前线，他已明白了军门的心意，当即奔至军门马前，拽住马嚼环哭劝：“军门！你不能去呀！”
当时，军门也感动了，说：“你是小孩子，你不懂。”
宋占标因哭劝不成，于是随在军门马后一同奔赴前方。结果聂军门殉国，宋占标也阵亡了。
当时在八里台与我们对抗的敌军是德国兵，德军的前方指挥是库恩。此人在武卫前军当过骑兵教练，他认识聂军门。聂军门殉国那天穿的衣服特别显眼，库恩一见聂军门亲自出马，如果不把军门打死，这场战争就不易结束，于是他指挥士兵集中火力把军门打死了。军门殉国，战事也就停止了。
传说，聂士成死后，下令杀死聂士成的德国军人库恩向前走去，望着血肉模糊的聂士成，忽然大吼：“拿一条红毛毯来！”
他接过红毛毯，亲手把聂士成的遗体盖上，然后脱下军帽，命令士兵朝天开枪，向着聂士成的遗体致哀。聂士成，是那封建历史上最后一个真正的军人。
聂士成生前因战功曾获勋赏为巴图隆阿巴图鲁、赏穿黄马褂，赠太子少保，抗八国联军英勇战死后，清廷下诏赐恤，谥“忠节公”，为他建“聂公祠”专祠祭祀。中华人民共和国成立后，天津建有他的纪念馆及骑马挥刀的高大塑像。
（本文刊于1990年冬《双拥》杂志）
注释：
[1]作者岳母鲁淑兰是聂士成的外孙女，其父是聂的部将，作战阵亡。其母在夫死后不久病故。鲁淑兰是由聂士成抚养成人。聂怜爱她。她小时聂作战回来常抱她在怀。所以对聂的情况多有了解。