太平军攻下武昌后,清朝政府一片恐慌,号召各地举办团练,发展地方武装力量,对抗太平军的起义,并希望用各地武装力量协助正规军抵制太平天国革命。1853年,母丧在家的曾国藩接到协助湖南巡抚办团练的上谕,奉命办理湖南团练。曾国藩总结了绿营旧制的弊端后,着手创建湘军,准备以书生领导乡民的方式创建一支新的武装力量。他在湖南极力网罗了一批具有“忠义血性”的农民入团,以读书人为长官,训练一支精干的团练武装,号称“湘勇”。同时为克服绿营世兵制的缺陷,曾国藩还实行募兵制,按照严格的标准来招募士兵,并编成陆师十五营,水师十营,官兵合计一万七千人,开始与太平军作战。曾国藩建立的湘军这一兵制体系,成为镇压太平天国运动中湘军的重要组成部分。但湘军统帅集兵、财及地方行政权于一身,使地方长官的势力大为增强,中央集权的削弱,使得湘军在建军原则上出现错误,埋下了日后军阀横行的祸根,也在一定程度上阻碍着中华军事文明在近代的发展。