真正成为太平军劲敌的倒是曾国藩练成的湘军。为母奔丧，在籍丁忧的礼部右侍郎曾国藩，自去年元月奉旨办团练后，一直在厉兵秣马，整装待发，只是在去年派出罗泽南部八百人增援南昌，小试牛刀。
曾国藩奉旨帮办团练时，到长沙去拜访时任湖南巡抚的张亮基，对着胡须花白，老态龙钟的张亮基，曾国藩拱手施礼，十分谦恭道：“涤生乃一文弱书生，不懂带兵之道，此次帮办团练，还敬请巡抚大人多多指教。”
曾国藩故意把‘帮办’二字说得特别重，强调自己是附属地位，表明皇上只是让他帮助湖南练一支新军，让他为朝廷尽点能力而已。
张亮基知道面前这位三角眼睛，瘦窄脸面，尖尖下巴但却目光犀利的礼部侍郎，是朝廷的特等人才，他把比自己年轻二十岁的曾国藩，按坐在椅子上说道：“我已老朽矣！灭发匪还得靠你们这些相对年轻的人。去年夏天守长沙时还多亏了湘阴举人左宗棠出主意。湖南本身就出人才，加之你是才中之才，想必你此来必有良策，不妨快快讲来。”
曾国藩崇尚程朱理学，但并不是一个迂腐子，先前已行礼节，一听张亮基求计，他便口若悬河，滔滔不绝：“发匪多亡命之徒，打仗不怕死，所以才以少胜多，由弱变强，横行万里。我绿营兵多为衣食谋，敢玩命者太少，一遇发匪纷纷溃散尤不耐苦战，人数再多又有何用哉？此次皇上命令在下帮办团练，在下想在长沙建立一个大团。尤其注意兵源素质，油嘴滑舌、卖乖取巧者一律不要，就各县曾经训练之乡民择其健壮而朴实者，招募来省，练一人受一人之益，练一月有一月之效，求其精而不求其多，练成之后定能以一当十也！”
张亮基击掌叫好：“曾侍郎言之有理，就依你之计行事。”
曾国藩将个人建军意图，写成一篇奏章禀报皇上。咸丰帝原本只让他帮办团练，不料想他一个文人倒有如此精辟的军事见解，遂免去帮办二字，让他独创一军。
早在太平军围攻长沙之时，湘乡知县朱孙诒就委派本县儒生罗泽南及弟子王鑫、李续宾、李续宜办团练。这些团练已镇压过湘乡县境内几次小规模农民暴动，在湖南小有名气。
曾国藩立即将罗泽南、王鑫、李续宾、李续宜等调往长沙，着手招兵买马，以湘乡团练为基础，开始创建曾系湘军。
曾系湘军还处在组织发展阶段时，就一边训练一边在湖南境内到处用兵，扼杀省内民众起义。一八五三年三月至次年一月，曾国藩先后派王鑫攻常宁县白沙堡何六吴起义；派罗泽南平息衡山草市刘积厚暴动；派刘长佑镇压安仁劫狱焚烧县衙民众；派朱孙诒剿灭安化县串子会；派夏挺樾击败宜章、临武、永兴三县暴民；派多名湘军将领来往于湘南一带，击杀进入湖南之广东、广西起义民众；派塔齐布打退邹恩隆天地会，夺回茶陵、安仁两座县城；派周凤山、储玫躬、曾国葆打败何贱苟乱党，收复常宁、嘉禾两县；派罗泽南用兵郴州、永兴，镇压农民暴动。
曾系湘军已在腥风血雨中发展壮大，显示出残忍凶顽性。从团练之初就开始作战实践，积累了一定的经验和胆量，起先就在湖南家乡成为镇压民众起义的刽子手。
曾国藩对朝廷忠心耿耿，而对暴动民众却恨之入骨，他多次呈书朝廷，表明立场道：“湖南会匪之多人所共知，去年发匪入楚，凡入添弟会者大半附之而去，然尚有余孽未尽。此外又有所谓串子会、红黑会、半边钱会、一股香会，名目繁多，往往成群结党，啸聚山谷。若非严刑峻法，痛加诛戮，必无以折其不逞之志，而消其逆乱之萌，臣之愚见，欲纯用重典，以锄**。但愿良民有安身之日，即臣身得残忍严酷之名，亦不敢辞。目前急务惟在清查保甲，分别良莠，为除暴安良之法。遇有匪党，密函以告，即行设法掩拿处办。重则立决，轻则毙之杖下，又轻则鞭之千百，案至即时询供、即时正法。”
基于这种强硬立场，曾国藩到达长沙仅几个月便斩杀杖毙数百人。而他所创之湘军更是四处屠杀乱民，砍一群人的脑袋，就如剪一把头发，因此老百姓送他一个“曾剃头”的绰号。
曾国藩信奉孔孟之道，崇尚程朱理学，大讲君君臣臣父父子子，老百姓就是老百姓，再苦再累也要安分守己，不应反抗官府。若有犯上作乱，他必以卫道士精神挥舞屠刀，痛加剿灭。从他奔赴长沙开办团练之日起，他便显示出对民众起义的残忍与严酷。
作为清王朝的礼部侍郎，特等人才他毫不含糊地维护朝廷利益，肝脑涂地的尽职尽责。他久在京城做官，与几个军机大臣都有师生之谊，也多次觐见皇上。他知道历代清帝都戒忌汉人，既要利用又要防备，他毕竟是汉人若要掌握兵权，必须借助于满族旗人。
为避免皇上猜疑，曾国藩牢记一个宗旨：军队越强越要重用旗人。他特意在满族官员中物色人选，他在湖南绿营姓名卡上先查一查档案。
曾国藩立即注意到这样一张档案表：代理都司塔齐布满洲镶黄旗人，陶佳氏，字智亭，生于一八一七年，行伍出身，性勇猛、能吃苦、善武斗、易冲动，有军人气质只是没有功名。
这时候张亮基已去武汉就任湖广总督，骆秉章再回湖南巡抚原任。曾国藩特到巡抚衙门里，亮出塔齐布的档案表。骆秉章猜道：“曾大人想重用塔齐布么？”
曾国藩点点头答：“然也。”
骆秉章有点不解：“本巡抚只知道曾大人喜用儒将，无文化、无功名者一律不加重用。所以湘军营官不是举人就是贡生。今日为何打破惯例？”