识时务者为俊杰。
一个人无论有多大的实力，他总是受周围环境及诸多因素的制约，不可能为所欲为，如果是一意孤行，最后吃亏的只能是他自己。所以，一个人要知进退，识好歹，明时务，常言说：“识时务者为俊杰。”看来此话一点也不假。
曾国藩凭着自己几十年的仕宦生涯，对封建社会官场的险恶看得最清楚，深知一入仕途人则毫无“自由”，即使是一只猛虎，也只能变成犬鼠可欺的可怜虫了。韩非子《寓言》中就有“伏虎于匣”一节，意思是说老虎在深山、在野兽中称王称霸，一入牢笼就会摇尾巴乞求同情，不论“虎性”是否改变，都不能不屈服于现实。为虎设笼不是为了防备老虎，而是要让虎入牢笼，使那些害怕老虎的人能够制服老虎。但是，几千年学而优则仕的传统谁能改变得了？更何况，一个有抱负的人不借助权力可以说是毫无作为的。因此，出进官场之局，处居江湖之远，就十分难以决断了。
曾国藩自己对出处之际虽然感到难以决断，但凭他的老道经验还是能够掌握火候的。这里说的是对其九弟曾国荃出处之际的安排，可见曾国藩的韬晦。
曾家兄弟为大清朝把老命搭上了好几条，尤其是曾国荃攻下天京城，用曾国藩的话说是千古以来最艰难的一次攻坚战。攻占南京后，曾家成为大功臣，按曾国荃的设想，清廷应功高厚赏，自己该做个总督巡抚、享享清福了。可是，清政府对这位敢作敢为的曾九最不放心，曾国荃虽读过几年书，但学识浅薄，急功好利，老饕之名满天下，尤其是他处死李秀成后一时成为众矢之的。同时，清政府对他也最不放心，欲其速离军营而不令其赴任浙江巡抚。
曾国藩无奈，只好以病情严重为由，奏请曾国荃开浙江巡抚缺，回乡调理，以避开舆论的锋芒，解除清政府的这块心病。不出曾国藩所料，这一奏请正合那拉氏的心意。曾国藩1864年9月27日上奏，10月5日即获批准。同时，那拉氏还赏给曾国荃人参六两，以示关怀。这本来是曾国藩的韬晦之计，暂时退避正是为了永久保住他们的既得利益。然而，曾国荃在曾国藩移驻江宁那天，当着满堂宾客大发怨言，致使曾国藩狼狈万状，无地自容。为了开其心窍，曾国荃四十一岁生日那天，曾国藩除派赵烈文专门劝慰外，还特写七绝十二首为他祝寿。据传，当曾国荃读至“刮骨箭瘢天鉴否，可怜叔子独贤劳”一句时，竟放声大哭，以泄胸中抑郁之气。11月2日曾国荃带着满腹委屈和怨愤返回湖南，由于怨气仍未平消，终致大病一场。
是年11月初，曾国荃迫于清廷的压力开缺回籍养病，从南京启程归湘。多年征战在外，此时退隐乡间，本是休养身心的最好时机，但曾国荃是个不甘寂寞的人，尤其是他对于清廷有意牵制曾氏兄弟的举措表示不满，不时流露出怨恨之情。曾国藩老谋深算，一再嘱咐曾国荃不要轻易出山，时局严重，不必惹火烧身，最好在家静养一年。如他在1865年4月的家书中指出：
“有见识的人士和相爱的朋友大多奉劝弟弟暂缓出山。我的意思也是让弟弟多调养一段有病的身体，在家闭门三年，再抽身而出，担当天下的艰巨大任。”进一步，他又在其他书信中具体安排曾国荃如何打发时光。一是修身养性，不要干预湖南地方事务，“弟弟平素的性情就是好打抱不平，发泄公愤，同时又对朋友情谊深厚，非常仗义，这个时候告病在家，千万不要对地方公事干预丝毫。”二是趁休闲之际补攻讲求诗文奏议之学，“弟弟以不善作文章而为深深的耻辱，……眼下用力于奏议文章的学习，也应当稍稍具备当年发奋拼命的那种精神”。在另一封信中，他又嘱咐曾国荃趁空闲时间，读些有关文史方面的好书，以加强自身的学识素养。同时，又寄去历年所写日记，希望曾国荃等明白他在外受苦，即所谓“近来衰惫之状”，以使他更加安心在家教育子侄辈读书做人。在曾国藩的耐心开导之下，曾国荃耐着性子终于在湖南老家呆了一年多时间，清政府曾诏谕他出任山西巡抚，他硬坚辞不受。1866年2月下旬，清政府又颁诏命曾国荃改任湖北巡抚，并帮办“剿捻”军务，此时，曾国藩认为时机已成熟，力促曾国荃出而任事：“唯决计出山，则不可再请续假，恐人讥为自装身份太重。余此信已为定论下次不再商矣”“君恩过厚，无令外人疑为装腔做势也。”于是，曾国荃决定再度出山。
裁撤湘军为避嫌。
攻克天京，曾国藩兄弟功勋盖世，为了显示天恩浩荡，天京城内余烬未熄，尸骸尚存，清政府就对这班功臣们颁发了赏赐。曾国藩官封太子太保，授爵一等侯，世袭罔替；曾国荃官封太子少保，一等伯；其他攻城的将领也都有爵尉封赏不等。汉人封侯，清朝仅此一例，兄弟同日封伯侯，可以说是旷古未有的殊荣，曾国藩对清廷感激涕零。
然而就在殊荣背后，清醒冷静、目光深邃的曾国藩还是看到了自己危机四伏。
曾国藩出身贫寒，只是汉族的一个中小地主。这在重满轻汉的清朝，其地位是相当低下的。他之所以后来能平步青云、跻身六曹，除了有自身的努力外，主要是靠穆彰阿的举荐和提携。道光皇帝死后，穆彰阿被罢，曾国藩也就失去了靠山，所以在整个咸丰年间，他一直都很不得意。创建湘军之初，就不断受到某些大臣的攻击，在攻克武昌之时，又失巡抚一职，后来一直没有得到他梦想的封疆大权，致使处处碰壁，这使他心灰意冷，几乎愤然不问世事。1860年太平军攻破江南大营之后，清朝绿营武装基本瓦解，清廷不得不转而依靠湘军，任命曾国藩为两江总督，慈禧掌权以后采取了更灵活的政策，让他督办四省军务，身负昔日五位钦差大臣的职权。其目的不外是为了调动他的积极性，事权归一，易于成功。但是自从进军雨花台以来，曾国藩迅速扩军，其嫡系部队由两万速增至五万，各路湘军总数三十万人，曾国藩能够直接指挥的就有十二万之多。三千里长江无一船不挂曾字旗。这就不能不使清政府心生疑惧。卧榻之侧，岂容他人安睡，历代君王都是如此。
其实如今贵为甲侯、权绾两江、声动四海、名重五岳的曾国藩也不是没有想过做中国历史上第二个赵匡胤。但就条件来说，无论是政治条件还是军事条件，他当时都不具备。首先是政治上，他虽然因为镇压了太平天国运动而获得地主阶级人士的一致赞扬，但其威望远没有达到能与清政府分庭抗礼的程度。其次在军事上，虽然眼下湘军兵力在苏、浙、赣、皖南等地，占绝对优势，但官文、冯子材、都兴阿都环伺四周。尤其是僧格林沁的蒙古铁骑虎视眈眈，只要湘军稍有反叛端倪，他们便会四面包围。还有湘军内部的左宗棠、沈葆桢等人，位列督抚，战功显赫，对曾国藩的不满情绪早已暴露，而朝廷又竭力笼络他，有意扩大内部裂缝，从而达到分化湘军的目的。李鸿章虽然与曾国藩的关系亲密，但他对曾国藩并非一片愚忠，他只会与其共荣，不能与其同辱。一旦曾国藩起兵，李鸿章只会按兵不动，坐观战局，一有不利，立刻便会倒戈。
对于这些情况，曾国藩看得比谁都清楚。尤其是他也看清了自己的九弟曾国荃，即使起兵能侥幸成功，黄袍加身也难保这个心高气傲、倔强狠恶的曾老九，不会做烛光斧影千古之谜的赵光义。
因此，考虑再三、权衡得失之后，曾国藩只能走自剪羽翼的道路，以清除清政府的戒心，保住自己功臣之名、侯爵之位，成为一代中兴名臣。
为此，曾国藩采取了一系列措施。首先他裁撤了一部分湘军；其次，又奏请朝廷停解厘金；接着又陈请曾国荃因病开缺，回籍调养。这三项围绕兵权问题而采取的措施大大消除了清政府的戒备，缓解了他与清政府的矛盾。
这样，曾国藩在占领天京不到一个月的时间内，就将自己嫡系五万人裁撤一半，仅留下两万人驻金陵（天京，今南京）、芜湖、金柱关等地。为了重振封建教化、笼络江南士子，曾国藩又下令修复江南贡院，并于当年举行乡试，得到了江南大部分知识分子的拥护。
湘军共同创造的，也是太平天国的领袖们全力配合、双手奉上的。历史的教训，正寓于其中。
筹建水师保湘军。
如果把湘军作为一个总体或者集团来对待，那么，湖南新宁应该是湘军的发祥地；如果把范围缩小到由曾国藩创建、并由他指挥的那一部分湘军，那么，湖南衡阳则是它的发祥地。从曾国藩咸丰三年八月二十七日到达衡阳的那一天开始，到他于咸丰四年正月二十八日从衡阳出征的时候结束来计算，他在这里待了整整五个月。
咸丰三年（1853年），中国近代史上的第一支新式地主武装湘军产生了。按最初的计划，曾国藩只想编练一万人，但因他的号召力很强，军饷发的也高，很快湘军人数便超过了这个数字。
陆师的编制是：塔齐布、罗泽南、邹寿章、周凤山、储玫躬、曾国葆、朱孙诒、邹士琦、杨名声、林源恩各领一营，每营五百人，共是五千人。王錱一人原领六营，约二千四百余人，曾国藩命其缩编为三营、一千五百人统带，王錱不服，率军投湖南巡抚骆秉章而去。
水师的筹建稍晚于陆师。1852年底，太平军进攻益阳、岳州，得到大批船只，遂建水师。后由武汉攻南京，千船万舸，蔽江而下，控制了千里江面。迫于应付太平军的水师攻击，咸丰三年，清政府饬令湖南、湖北、四川造船练兵。湖南巡抚骆秉章自认建水师困难，没有进行，而郭嵩焘亲见太平军的水上作战，往来迅捷，遂建议江忠源再度上书，要求清廷拨款造船，编练水师。咸丰准奏，命令广东购置洋炮，两湖、四川造战船，建立水师，对抗太平军。
咸丰三年（1853年）冬初，曾国藩奏请拨款四万两，在衡州建立造船厂，日夜赶造战船。他请来广西同知褚汝航、岳州守备成名标督造船只，从广西速购大批木材。到咸丰四年初，湘军水师成军，共有战船三百六十一号，有拖罟（gǔ，大纲）大船一号、快蟹四十号、长龙五十号、舢板一百五十号、改装渔船一百二十号。船上共装大炮四百七十门，新式洋炮三百二十门。
水师成军之初，人数与陆师相等，也编为十营，官管由褚汝航、夏銮、胡嘉垣、胡作霖、成名标、彭玉麟、杨载福、龙献深、邹汉章、诸殿元十人担任。水营的招募从时间上看虽不太迟，但招募过程却很曲折。本来湖南之衡州、郴州、桂阳、永州一带多有习水性之人，也乐于应募，但曾国藩却不愿在那里招募。其原因一是陆师多在湘乡一带招募，水师也想在那里招募；另一原因是湘南一带多次发生起义，会党势力很大，曾国藩也不敢在那里招募。湘乡的壮丁多已参加了湘军和地方团练，又不习水性，所以不愿受招。但曾国藩利用各种关系，日夜说服动员，正好湘乡一带发生旱灾，百姓受灾生活困难，湘军的待遇又好，所以才纷纷投军，使水营也较快成军。
水师的营官招募也很困难。在刚刚开始创立的时候，曾国藩并不知道筹措水师需要做哪些工作，于是就四处咨询，幸赖彭玉麟、杨载福出为营官，才使水师成军，而二人终成湘军名将。
彭玉麟是清末的一个传奇人物，年轻时被传为刚直而又多情的“奇男子”，投军之时被称为“不怕死，不要官”的名将。
彭玉麟，字雪琴，衡阳人，即衡州西北蒸水之滨的衡阳县人。幼年丧父，家贫，随舅父去安徽芜湖读书。外祖母有一养女小梅，与玉麟年龄相仿，舅父无子女，玉麟与小梅犹如亲兄妹，深受长辈的喜爱。玉麟与小梅虽辈分有别，玉麟称之为小姨，但全家上下只此一对小男女，并无辈分之别。玉麟与小梅青梅竹马，两小无猜，相处甚洽。玉麟每天上学，小梅都给他准备好文房四宝，送出门外；每天放学，小梅总去接他；晚上玉麟读书，小梅为他掌灯，添油；玉麟爱画画，小梅为他研墨、铺纸。
时间一天天过去，玉麟和小梅一天天长大，纯真的情谊在这对小男女之间坚实地、一点一滴地滋长起来。他们虽都知道双方并无血缘关系，可是名分上的小姨与外甥怎好成亲呢？爱情的力量太不可思议了，玉麟17岁那年，衡阳传来凶信，祖母病故，他是长孙，必须回去尽孝。就在那苦苦分离之际，爱情之花抽蘖而出，小梅羞面如花，赠给玉麟一个鸳鸯荷包。玉麟紧握小梅的双手，吐出了藏在心里好久的爱慕之情，坚定地说：“等着，我回来娶你！”
可是，彭玉麟回到衡阳，家境贫苦，母亲靠纺线供玉麟读书，无法拿出返回芜湖的川资。一别七年，直到外祖母病故，他才得以再次去芜湖，而这时小梅已经埋骨斗笠岭很久了。
彭玉麟在外祖母和小梅的坟前呼天抢地，悲痛欲绝。他以泪水和墨，写了悼念小梅的诗，其中一首是：
“少小相亲意气投，芳踪喜共渭阳留。
剧怜窗下厮磨惯，难忘灯前笑语柔。
生许相依原有愿，死期入梦竟无由。
斗笠岭上冬青树，一道土墙万古愁。”
此后，他誓不再娶，母亲每逼问，唯一语：“男儿功名未成，何谈婚事。”好在弟弟已成家，并生有儿女，母亲遂不再催问。但是，彭玉麟仅在十几岁时即中了秀才，以后再未赴考。他开始在衡阳绿营副将手下充掌书记，又为一富商看守仓库；有空即读《公瑾水战法》，又最爱画梅，几案箱笼，所处皆满。到曾国藩练湘军那年，彭玉麟已三十七岁了，仍是单身汉。
咸丰二年（1852年），耒阳地区发生武装暴动，情势危急，守城官募兵无以应，当时彭玉麟仍在耒阳富商家受雇，他当机立断，发主人库存募勇守城。事息，城官保之为绿营把总，彭玉麟一笑置之，并不受赏，被传为士林中少见之英杰。
曾国藩打听到彭玉麟的为人处世，尤其是得知此人熟读《公瑾水战法》，生在蒸水之滨，水性好，跑马射箭、枪法、拳术也都有功底，曾临战之功而不受奖赏，于是派人请他参加湘军，做水师将领。曾国藩几次派人去请，彭玉麟也不受命，后来曾国藩就仿效刘备三顾茅庐的故事，亲往彭玉麟处相请，曾国藩见这位年近四十的汉子，依然长身玉立、英迈娴雅，十分敬佩，乃温言相劝，多方激励，方请得彭玉麟出山，做了水师的一个营官。
杨载福，又名杨岳斌（投军后因避咸丰之名载淳讳而改），湖南善化（今长沙）人。祖、父皆行武，有战功，父为游击官衔。居湘江滨，水性极佳。早年入行伍，参加镇压李沅发起义，升为千总。曾国藩办水师，把杨自长沙绿营中调为水师营官。
彭玉麟、杨载福入水师，为湘军水师的建设大出其力，成为湘军水师齐名的两个统领。彭、杨等水师营官每日抓紧指挥兵士练习水战，至1854年2月，湘军水师终于练成。