清政府正式对法宣战后，中法之间的战事在东南沿海一带激烈进行的同时，双方在陆上的战争也在如火如荼地展开。
陆路战场主要集中在越南北部地区。清政府鉴于法军海上势力的强大，确立了东南沿海防御、北圻陆路反攻的战略方针，决定在陆路西线战场上，由滇军和黑旗军联合进攻，夺取被法军占领的宣光城；在东线战场上，由桂军负责进攻谅江和太原，随后与西线清军会师，联手合攻北宁和河内的法军。
（一）围困宣光
1884年8月，清政府封刘永福为记名提督并赏顶戴花翎。由此刘永福和他的黑旗军得到清政府认可，正式“转正”。
1884年12月—1885年3月，在云贵总督岑毓英的指挥下，刘永福的黑旗军配合西线清军，围困占据宣光城的法军。刘永福在离宣光十余里的左育驻扎重兵，并用竹排、木筏拦河踞守，断绝法军运送粮械的道路。
城中法军在几乎弹尽粮绝的情况，向河内法国全权大臣发出救援信。他们把求救信装在成千个竹筒和玻璃瓶内，上面插杆小旗，写道：“有谁拾得此信，报上法国全权大使者，赏银二十元。”然后将竹筒和玻璃瓶投入红河，让它们顺水漂流，向河内法军求援。
刘永福断定河内法军总部得悉此事后，一定会派援兵，而且会取道左育，于是令人在左育附近野草丛生的大荒坡埋下两万斤炸药，铺上草皮，伪装成坟墓，准备一举歼灭敌人。
1885年3月2日，法军援兵从太原向宣光张牙舞爪地冲袭而来。待敌人进入伏击地段后，黑旗军拉发火引，一阵震天巨响，山崩地裂，硝烟冲天，法军被炸死炸伤四五百人，其中军官二十多人，伪军死伤不计其数。法军吃了苦头，咬牙切齿地施以报复，利用密集炮火轮番射击，组织兵力猛烈冲锋，宣光城内法军也乘机反扑。黑旗军力无法支撑，岑毓英只得下令撤围。黑旗军退守临洮。
3月23日，法军进犯临洮。刘永福联络奉命抗法的滇军和越南义勇队，共同阻击来犯之敌。鏖战一日两夜，敌军精疲力竭，死伤惨重，只得乘黑夜潜逃。刘永福挥师乘胜进击，连克临洮府和广威府等十余个州县，有力地照应了东路抗法清军，转败为胜。
刘永福在援越抗法战争中英勇不屈，取得辉煌战绩，引起法国侵略者和中国的投降派们的极端仇视和不安，一心要把他清除战场。清政府为了逼刘永福率部回国，一个月内就连下九次上谕，采取胁迫利诱、恩威并施的手法，赐予刘永福“依博德恩巴图鲁”和“三代一品封典”的荣誉。越南人民得知刘永福要离越归国，纷纷远道赶来挽留。后来，黑旗军有部分人员不愿回国，留下来参加了当地的抗法义勇队；也有部分人散落各地成为华侨或越籍华人。1885年8月，刘永福带领黑旗军三千人从保胜启程入云南省文山县南溪，于同年11月抵南宁。清朝政府又以种种借口裁减了一千五百人。同年12月，刘永福奉令带领黑旗军一千五百人顺水东下，直抵广州，驻扎于燕圹，又被张之洞裁减去一千人。最后在刘永福身边的黑旗军旧部只剩三四百人。1886年春，清政府委任刘永福为闽粤南澳镇总兵。甲午战争爆发后，刘永福率黑旗军保卫台湾。
清军在东线的反攻开始时进展比较顺利。至1884年9月中旬，署理广西提督苏元春率领的桂军主力十三营约四千八百人进抵船头（今陆岸），记名提督方友升等部九营约三千二百人进占郎甲（今盖夫）及其以北地区。但10月上旬，法军开始反击，同时向郎甲、船头发起进攻。由于和法军在武器上有很大的差距，加上负责东线指挥的广西巡抚潘鼎新调度无方，郎甲、船头得而复失。
1885年1月底，法军第一、第二旅主力七千余人在船头一带集结完毕，随即大举北犯。2月12日，法军进攻谅山南面的重要据点委坡，潘鼎新当夜逃离谅山，苏元春随之率部退入镇南关（今友谊关）内。13日，法军兵不血刃地占领了战略要地谅山。23日，法军进犯文渊州（今同登），守将杨玉科力战牺牲，清军纷纷后撤。法军乘势侵占广西门户镇南关。但因兵力不足、补给困难，法军炸毁了镇南关城墙及附近的清军防御工事后，退回越南境内的文渊、谅山，伺机再犯。临走前，法军在关前废墟上竖起一块木牌，得意地用汉字写上“广西的门户已不再存在了”。法军退走后，清军在关前插上木桩，上面针锋相对地写道：“我们将用法国人的头颅重建我们的门户！”作为对侵略者的回答。
镇南关被破，就等于战火烧到了中国境内。当时清军的后路是广西龙州，当地商民听说此消息，纷纷举家迁徙，战败的清军游勇也大都溃散。逃军和难民成群结队，沿江而下，广西全省大震，人心惶惶。在危急形势下，清政府革去潘鼎新广西巡抚职务，任命年近七旬的老将冯子材帮办广西军务，领导镇南关前线的抗法斗争。
（二）老将冯子材
冯子材（1818—1903年）字南干，号萃亭。生于广东钦州（今属广西）。自幼父母双亡，流落江湖。他曾做过木工，跑过牛帮，在贫困中度过了许多岁月。在社会风气和亲友言行的熏陶下，冯子材的思想中充满了儒家的正统观念，并以此来严格要求自己。1850年率众起义，次年投奔天地会领袖刘八。不久冯子材接受朝廷招安，随广西提督向荣尾追太平军至南京城外，积功升至总兵。1862年擢升广西提督，驻军镇江，配合湘军围剿太平军。之后又相继在广东、广西、贵州等地镇压农民起义，为清廷立下了赫赫战功。1869年至1879年间，冯子材受越南政府邀请和清廷派遣，三次出关平定退入越南的广西农民起义军和哗变的清军，由于所率军队纪律严明，被当地人称为“冯青天”，享有很高的声誉。1881年，冯子材因为和上级徐延旭关系不和，屡遭其排挤，便“称疾”解甲归田。中法战争爆发后，听到清廷已经对法宣战，老将心忧边事，不顾自己已年近古稀，上书朝廷，要求率兵入越抗法。
（三）镇南关大捷
1885年2月，驻越清军战败，逃回中国境内，溃不成军。新任两广总督张之洞举荐已经解甲归田的老将冯子材出山。张之洞在奏章中称冯子材“老成宿将，熟习边境军务，威望远播”“冯虽老，闻未衰，将才难得”。于是年近七旬的老将冯子材被任命为广西关外军务帮办，挑起了保卫南部边疆的重担。
冯子材以极快的速度召集旧部，募集“萃军”十八营（“萃军”，因冯子材号“萃亭”而得名），开赴广西前线。为表示此行抗敌的决心，冯子材把他的两个儿子带在身边，以备料理后事。临行时他嘱咐家人，一旦广西守不住了，就把祖先牌位迁回江南祖籍——冯子材誓死不做亡国奴。
冯子材赶到镇南关后，根据前线清军各部之间多存派系门户之见的现状，首先召集前敌诸将晓以大义，使各将领在抗击侵略者的斗争中团结起来。各将领共推冯子材为前敌主帅，统一指挥协调各军的行动，这就为挽回败局创造了必要的前提。
由于镇南关城墙和防御工事都已被法军破坏，冯子材经过实地勘察，决定以镇南关以北十里处的关前隘作为诱敌聚歼的主战场。关前隘是镇南关以北的一个通道地区，地势险要，中间只有一条宽约两里的关道，东西两面都由高山夹峙。关前隘南面的谷地宽两里，谷地南端至镇南关都是起伏不平的山丘，人称横坡岭。冯子材令所部士兵在东西岭之间构筑一道三里的长墙拦住关道。长墙用草皮土石堆砌而成，两米多高，三米多宽，每隔三十米左右开一个缺口，缺口上安有栅门。长墙外，冯子材则命士兵挖了几千个梅花坑，坑上盖着草皮，并在东西两岭半山腰挖了四尺宽的深堑，切断关道，以利坚守，从而构成一道坚固而完整的山地野战防御阵地体系。
在兵力部署上，冯子材将各军分为左中右三军，互为犄角，相互照应。冯子材和两个儿子亲率所部十八营萃军作为中军，扼守关前隘的长墙和两面高山险要，担任最艰苦的正面防御；总兵王孝祺部的八营勤军列于萃军后半里处，作为正面防御的第二梯队；湘军统领王德榜部的十营定边军，驻在镇南关东南十五里外的油隘，作为左路军，准备抄袭来犯敌人后路，切断敌人的补给线。魏纲所部的鄂军八营驻镇南关西面的平面关，控制由艽葑（七溪）至龙州的水道，为右路军；广西提督苏元春及陈嘉所部的桂军十八营屯于关前隘后五里的幕府村，作为总预备队；蒋字汉所部的十营广武军、方友升所部的四营抚标亲兵屯于凭祥，作为第三梯队，防止敌人暗袭；潘鼎新所率的淮军五营屯于海村，以镇后路。
另外，冯子材还在长墙主阵地后面半里、四里及纵深地区，都配置了多重预备梯队，进可攻，退可守。蒙家村由蒙大带领敢死队持大刀埋伏于坑内待命。加上驻龙州、新街等处的部队，东线清军的总兵力约达八十多营，共五万多人，前线部队兵力约两万人，在数量上占据了绝对优势。
一切准备就绪后，为了打乱法军的作战部署，冯子材决定出其不意、攻其不备，先发制人。3月21日，冯子材率王孝祺部出关夜袭法军占据的文渊，击毁敌炮台两座，取得相当可观的胜利。
清军的主动出击，使骄横的法军恼羞成怒。法军东京军区副司令尼格里上校决定不等援军到齐即发起进攻。3月 23日早晨8点钟，尼格里指挥法军两千多人和三个炮兵连，兵分三路，气势汹汹地进犯清军长墙主阵地和东岭炮台。西路法军从文渊出发，经镇南关西面沿偏道入龙门关，上西岭风尾山攻打王孝祺勤军阵地；中路法军闯过镇南关，沿关道进抵关前隘长墙外；东路法军从谅山上马鞍山后沿山脉直扑小青山的清军阵地。
上午10点左右，法军在炮火掩护攻占了东岭三座炮台，之后居高临下轰击关前隘长墙。冯子材一面命令各部迎战，一面商请驻于幕府的苏元春部前来接应，并通知王德榜部从侧后截击敌人。
在丢失三座炮台的危急关头，冯子材大声疾呼：“法再入关，有何面目见粤民？何以生为？”守卫的清军在冯子材的爱国热情鼓舞下，个个奋不顾身，英勇抗击，誓与长墙共存亡。战斗十分激烈，“炮声震天，远闻七八十里外，山谷皆鸣，枪弹积阵前，厚者至寸许”。
下午4点钟左右，苏元春率部赶到东岭参战。王德榜部也在油隘袭击法军，并一度切断了敌人运送军火、粮食的交通线，牵制了法军预备队的增援，有力地配合了东岭的战斗。
入夜，清军进一步调整部署，由苏元春部协助冯子材守长墙，王孝祺部夺西岭，陈嘉部守东岭。冯子材还另调驻平面关的魏纲部前来抄袭法军左翼。
3月24日清晨，镇南关方圆几十里大雾弥漫，能见度不超过十步。尼格里利用这个有利时机，指挥法军分三路再次发起攻击，沿东岭、西岭、中路谷地猛扑关前隘。法军的炮火比前一天更加猛烈，山鸣谷应。冯子材传令各部统领，无论何军何将，都不准后退，违者皆斩。
当日午时，在法军逼近长墙主阵地，并开始攀爬长墙的危急时刻，年近七十的冯子材大吼一声，手持长矛，率领两个儿子跃出长墙，冲向敌阵。全军将士见主帅身先士卒，纷纷拿起武器打开栅门，勇猛地冲向法军阵地，与法军展开肉搏。终于，中路法军败退。
与此同时，陈嘉部、蒋宗汉部在东岭与法军展开了激烈的争夺战。傍晚时分，王德榜在击溃法军增援部队并消灭其运送军火的驮马队后，从关外夹击法军右侧，配合东岭守军夺回被占炮台。这时，王孝祺也已击退沿西岭进攻之敌，并由西岭包抄敌后。
法军三面被围，伤亡甚众，后援断绝，弹药将尽，开始全线崩溃。尼格里只得下令撤退，狼狈逃回文渊。这就是威震中外的“镇南关大捷”。
镇南关一役，清军取得了中法开战以来最大的一次胜利，共击毙法军精锐上千人，缴获枪支弹药不计其数，极大地鼓舞了中越两国军民的斗志，沉重打击了法国侵略者的嚣张气焰。法国人在战后也不得不承认，自他们入侵中国以来，“从未受此大创”。
为了扩大战果，冯子材挥军乘胜追击，不给法军以喘息的机会。3月26日，清军追击到文渊，惊魂未定的法军听到清军攻来的消息后，撒腿就跑。3月29日，清军攻克谅山，在战斗中法军指挥官尼格里重伤。慌乱之中，法军甚至将三十八门大炮和大量银元弃入淇江，狼狈南逃。3月30日，清军攻克谷松。次日，清军再攻克北黎，并收复了观音桥。此时的法军，犹如惊弓之鸟，一口气逃到郎甲、船头一带。在整个东线陆路战场上，中方出现了空前的大好形势。
与镇南关大捷几乎同时，西线战场上也取得了重大胜利。黑旗军在临洮大败法军，杀敌上千，取得临洮大捷。紧接着，清军和黑旗军又乘胜收复了广威府、黄冈屯、老社等十几个州县。
至此，越南北部战场的敌我形势已经全然改观，胜利的天平开始朝向了清军一边。在这种形势下，冯子材决定亲自率领东线各路清军进攻北宁、河内，将法国侵略军彻底赶出越南北部地区。但就在这时（1885年4月7日），清政府却突然下达了“乘胜即收”、停战撤兵的命令。前线将士一片愕然，激愤得捶胸顿足，“拔剑刺地，恨恨连声”。许多士兵甚至跑到将帅帐外，写血书，立军令状，“摩拳擦掌，同声请战”“战如不胜，甘从军法”。冯子材、王德榜等清军将领在大胜之下，也不想轻易放弃扩大战果的机会，便联合致电上司两广总督张之洞，要求代奏清廷，诛杀议和之人，以振士气。但清廷主意已定，无可挽回，冯子材最终被迫遵旨撤军。有心杀敌，无力回天！战后，冯子材奉旨督办钦、廉二州防务，并会办广西一带边防。1896年赴云南提督本任。1903年奉旨会办广西军务，抱病兼程赴桂，卒于军旅。