北伐军余部退守连镇之时，忽闻天京曾派增援部队到达山东临清。林凤祥、李开芳真是大喜不已，对援军到来满怀希望。李开芳率一千数百骑兵在连镇与林凤祥分手时，很自信地说道：“林兄，小弟怕援军走错路线特率骑兵前去迎接。你就安心等待好消息吧！”
林凤祥向来是坚强而乐观的，他捋了捋白胡子，道：“是啰！圣兵圣将有天父天兄保佑，援军此来必定是一路滔滔势如破竹，沿途会招收大批兵马来的。”
林凤祥正是靠着这种坚定信念，坚守连镇等待援军，与敌苦斗了将近一年，所剩百战精锐广西老兄弟们，纷纷投河自尽，全军覆没。自己最终受伤被擒。
李开芳与林凤祥分手后，经吴桥进入山东过德州、平原到达高唐州，始知援军早已从临清败退南归，不由大失所望。李开芳望南叹道：“我军扎营阜城时，援军已到临清，两处相隔仅两百里，他们为何不北上与我军会合？他们拿北伐大业当儿戏呀！这带兵将领是谁？是谁？天父上帝定饶不了他。”
是的，北伐援军从临清败退，是整个北伐军事中最严重的错误，它不仅导致了整个援军的全部覆没，而且还影响到林凤祥、李开芳的协调配合，致使林、李二人隔居两地被清军分割包围各个击破。太平军这支最精锐的部队就断送在这种期盼与奋争之中。如果援军不曾到过山东，林、李二人也许会放弃北伐，整师南退保存这支百战之师。
北伐援军是如何到达山东临清？而后又是怎样败退的呢？话还得从头说起。
林凤祥数次派人送信到天京请求援军，这些求援信都一一由北王韦昌辉递交给东王府，再由东王杨秀清作最后决断。
太平军建都天京以后，首领们公开宣扬：“金陵已得，天下大定。”“一统江山图已到，胞们宽草乐逍遥。”没有意识到敌人还很强大，太平天国自身还存在致命威胁。最高首领天王洪秀全已按封建皇帝标准，立三宫六院七十二妃，深居内室，足不出户，整日贪恋酒色，不问朝政，一切事物由东王决断，天王顶多只是过目一下奏文，批上“是也、是、极是”等字样。
东王杨秀清也贪天之功为己有，愈来愈骄傲自大专横跋扈，很爱显示自己的权威。首领间往日那种同枕共餐亲密无间，遇事有商有量的气氛没有了，取而代之的是等级森严，互相戒备。杨秀清得到北伐军求援信后，没有征求诸王意见，而只是向亲信谋士李寿春、侯谦芳问计。李寿春感叹道：“北伐军以两万之众从浦口登陆，辗转数省终于打到天津城边，发展到五万人，真不愧为我军之精锐也！”
杨秀清对此并不满意，他紧锁眉头道：“北伐军在黄河遇阻，绕道山西已是耽误数月。过黄河后攻怀庆不下又耽误五十六日，致使到达天津时已冰天雪地，失去天时，而且，兵源扩充也嫌太少，至静海才五万人。我军金田起义时不到两万人，打到天京迅猛发展至百万大军，如林丞相他们能扩充到十几万人，那也就用不着我们再派援军了。”
侯谦芳道：“东王当然往好处在想。事实上北方人言语不通，思想各异，对天国缺少感情，扩军也就比南方困难。林、李、吉三丞相智勇兼备，出湖南、打金陵每战必胜。这次北伐谷米欠缺，水土不服，他们克服困难能够攻至天津近郊就很不容易了。”
李寿春道：“是啊！三丞相之忠勇的确让人佩服，他们顶住饥寒与与强敌，坚守静海等待援军仍然想着北伐。东王应尽快派兵才是。”
杨秀清道：“初接求援信时正值数九寒冬，不宜行军作战。现在已是立春过后，天气开始转暖，我找你们来正是商量如何派北伐援军。”
经东王府决定，又抽调三支兵马组成北伐援军，具体结构如下：夏官副丞相曾立昌率领从扬州突围的四千人为北伐援军基础；秋官副丞相陈仕保从安徽带三千西征军加入北伐援军行列；冬官副丞相许宗扬领三千天京防军北上。
北伐援军出发时约一万人，经桐城、舒城北行。得捻军引路攻下六安县，此后又顺利占领颍上县、蒙城县。沿北伐先遣军的路线到达亳州。接着挺进河南往东占领永城县，又往北攻下夏邑县。在苏、鲁、皖三省交界处，三路北伐援军会合在一起。
这时，北伐援军人数巨增，皖北、豫东捻军成群结队加入援军，苏北、鲁南饥民、失业者也大量涌入，三路人马会合在一起总数已越四万，一时间壮了北伐援军声势。
曾立昌为主帅，陈仕保、许宗扬为副负责指挥援军，他们记住东王临别嘱咐：“迅速北上，扩充军队，早日打进罪隶省，及时援助北伐先遣军，共打妖穴。”
为了多招兵，曾立昌传令各营，无论什么人只要不是奸细，能够参加打仗就一概无条件接受，发以刀枪、给以衣食、编入军队。
北伐援军在苏、鲁、皖、豫边界地区，招收新兵扩充军队，人数是增加了不少，可是鱼目混珠，很多流氓、地痞也混了进来。多数饥民难民也只是抱着当兵吃粮，填饱一张肚皮的想法加入援军的。一些捻军加入北伐援军后，仍然保持着散漫习气，不听调遣，我行我素的现象时有发生，新兵素质普遍较差，没有严格的训练，就不能和老兄弟同心同德。进军顺利有吃有穿时倒能一哄而上，一遇困难和挫折就产生动摇。
曾立昌率部经过皖北时，有一人率四、五千捻子来投。此人姓李名兴青，绰号李三闹。曾立昌见李兴青率这么多人来入伙，不由大喜，按其带兵人数封为指挥。
李兴青诨名之所以叫李三闹，就是因为他反复无常，一是这么闹两是那么闹的缘故。李三闹祖籍安徽泗县，出身农民。长大后，他见捻军冲击官府，抢劫富豪，忽东忽西，自由自在，便爱上了这种绿林生活。他弃农入捻开始了打家劫舍的生涯。但他入捻完全是觉得好玩自在，就他看来杀人越货，吃香喝辣，有时还可以***人，活着一天享受一天也不枉为人一世。
李三闹入捻不久便当了个捻军小头目，管带几百人。有一次，李三闹率部驻进洪泽湖傍一个小渔村里。李三闹兽性发作**了渔村里的一个少女，弄得当地百姓怨声四起。大头目要惩罚他，李三闹便对手下人煽动道：“弟兄们，我们提着脑袋冲锋陷阵，还不是为了过得更欢乐一些吗？我们这堂堂七尺男子汉，说不定哪一天就会战死沙场，快活一天得一天。我向来主张及时行乐，可如今捻子里这也不准、那也不行，托一回人生就当苦行僧啦！干脆，我们南下投官兵去，强似在这里受苦。”
他手下多是些没主见的憨厚人，听了头目的话，随声附和道：“头，你说咋办就咋办，反正我们跟你走就是了。”
李三闹便带手下人坐船经过洪泽湖、高邮湖，赶到扬州城外，投靠了清军江北大营。
江北大营主帅钦差大臣琦善正组织围攻扬州城内太平军，兵力正缺乏。李三闹率部来投被琦善保举为守备，参与围攻扬州。
当时曾立昌为扬州城天军守将，所部虽多精锐战士，但受江北大营围困已久，交通堵塞物资困难，扬州守军有被活活困死之危。
杨秀清决定暂时放弃扬州，令夏官副丞相赖汉英率部协助曾立昌守军突围，保存这支精锐部队。几经激战扬州守军未能突围。
赖汉英侦察后得知城东清军兵力薄弱，多是些团练乡勇凑数。遂决定由东路三汊河打开一条通路，迎接曾立昌突围。
这时李三闹带一千乡勇随参将冯景尼防守在扬州城东面扬子桥。赖汉英督天兵死战，杀开一条血路迎接曾立昌部突围。江北大营帮办军务雷以諴负责整个东路军事。他声嘶力竭地大喊：“顶住、顶住。”可是驻守扬子桥的冯景尼已是指挥不灵，由于手下人伤亡太多，团练乡勇纷纷溃散，冯景尼成了光杆司令也自顾逃命而去。
赖汉英从东面打败清军救援城内四千天兵突围扬州，许多百姓也跟着他们撤到天京。
这一战清军损失很大，朝廷认真追究。
李三闹身为守备害怕打硬仗苦仗，天兵发起猛攻时他首先率手下乡勇溃散，生怕挨到刀枪，一口气北撤了几十里。
李三闹跑回泗县老家，观望朝廷对此如何处置。不久，咸丰帝亲谕：将琦善、陈金绶、雷以諴等革职留营；将扬子桥溃败之将冯景尼斩首示众。
李三闹是扬子桥首先带乡勇溃散的官员，已受到朝廷通缉捉拿，他感到自己脑袋难保。
李三闹带一千多溃散乡勇躲在泗县老家，得知朝廷问罪之信，他又煽动溃勇道：“朝廷将扬子桥战败之责都归咎于咱们溃勇身上了。参将冯景尼已被斩首示众，咱们也逃不了干系。何必在此等死呢！大家随我去投捻军吧，只有这样大家才有一条活路。”
李三闹因此重入捻军，在泗县老家占了一块地盘，又和官兵对干起来。
曾立昌率北伐援军到达苏、鲁、皖交界处，李三闹见各路捻军都去投奔了太平军，自己在这一带已是孤掌难鸣，于是只得率手下四千多人加入了北伐援军。
北伐援军在三省交界地区攻占了几个县城，显示出一些威力。打了胜仗缴获了许多物质，衣食不愁还有金银财宝，全军上下自然个个欢喜人人满意。李三闹心想：投靠北伐援军算是做对了，这么打下去要当大官发大财。
曾立昌、陈仕保、许宗扬等人都忽视了对新兵的审查筛选，只是一意多扩充部队。像李三闹这种反复无常，曾经当过清军守备的人，因为带来的人多所以还受到援军首领器重。忽视了人员素质，吸收大量投机分子，已给北伐援军种下了祸根。
北伐援军由江苏丰县向山东挺进，首先攻打金乡。清知县杨郑白率千人奋力抵抗。李三闹一要建攻，二要抢先入城夺财宝，三是看敌兵薄弱容易攻打。所以他拍着胸膛对曾立昌请战道：“曾丞相，老兄弟们远道而来辛苦疲惫在后歇歇吧！我们新兄弟入伙以来未建大功，今日卑职愿率新兄弟杀败妖兵，夺取金乡。”
曾立昌听他说得有理，点头赞许道：“主动请战难能可贵。去吧，祝你们马到成功。”
李三闹带数千新兵从三面包抄金乡县城，仗着人多优势，大胆发起进攻。
知县杨郑白指挥手下兵勇抵抗，一场激战守城兵勇死伤大半。杨郑白左耳被流弹削掉流血不止，眼看长毛冲进城来，他跑向一口水井，头朝下、脚朝上的跳了下去。
李三闹率众冲进金乡县城，以清查妖兵为名四处搜索，抢到一些金银财宝私藏起来。李三闹暗自欢喜道：投靠长毛没错，仅拿这些金银财宝就划得来。
次日，曾立昌亲率大军去攻打巨野县，李三闹又别出心裁道：“曾丞相，每座县城妖兵很少，我军兵多一起行动不好，杀鸡焉用牛刀？卑职想分军去东取嘉祥县。”
曾立昌没有反对，点点头道：“行，我们去打巨野县，你率部去打嘉祥县。”
同一日两路兵马都打了胜仗，攻占巨野、嘉祥两座县城。当晚各自扎营安歇，次日同时开往郓城县，一举拿下县城。
为了抢渡黄河，北伐援军越过水泊梁山，弃梁山县城而不打，挥师直抵黄河岸边。此时正是阳春三月，这一年雨水稀少，黄河断流水位很低，有的地方甚至已河床干涸，不用渡船就可以涉水到达对岸。
曾立昌笑道：“人道黄河像一匹野马奔腾不息，可眼下黄河摆在我们面前却如此安安静静、服服帖帖。真是上帝保佑，天助我也！”