胡林翼瞟了曾国藩一眼，慢慢地从怀里抽出一个信封来，一面递给曾国藩，一面说：“来安庆前，左宗棠来了一封信，信上说，他日前游浮梁神鼎山，得了一联，寄来让我交你一看。”
曾国藩接过信封，从封里抽出一纸，上面果然是左宗棠的亲笔，只见上面写着：
神所依凭，将在德矣；鼎之轻重，似可问焉。
曾国藩见联，不禁脱口称赞：“好一副对仗工整的佳联！联语字头，又恰好嵌着神鼎，妙极！”
曾国藩又摇头咂舌地念了一遍。当他抬头看着胡林翼神秘微笑的情态时，眼前一亮，顿时悟出了联中暗藏机锋。他心里想：难道他左宗棠要“问鼎”？左氏志向不小，才气也大，但手里只有数千兵马就想当皇帝了？但他迅速转念：原来，这是要让我“问鼎”啊。
曾国藩联想到创办湘军以来，宫中不断传出的流言，皇帝对他的猜忌。尤其近年来湘军已达10余万众，朝野都对湘军猜忌不已。想到这些，他心里就一阵阵发冷，双手颤抖，一句话也说不出来。
胡林翼看到曾国藩如此表情，也不便再问。他又掏出了一个信封，递给对方，口里说：“我也有一拙联，不妨请教！”曾国藩心想：不知道又有什么惊人之语写在上头。他打开后，看见上面写的这一联是：
用霹雳手段，显菩萨心肠。
曾国藩看后，大声说：“润芝（胡林翼号），妙极了！”胡林翼惊问：“妙在哪里？”曾国藩回答：“九弟攻破安庆城，杀了一些长毛，心里老是后悔，有润芝这一联，犹如良药，九弟看了定可药到病除！”胡林翼沉吟片刻，用诡谲的目光盯着曾国藩，摇了摇头，欲言又止。
两天后，胡林翼要回武昌，曾国藩送他到城南码头。曾国藩拿出左宗棠的联语说：“左季高（左宗棠字）的联语，我给他改了一字。”说着连同信封递给了胡林翼。胡林翼打开一看，发现联语中的“似”字已被改成了“未”字，变成了“神所依凭，将在德矣；鼎之轻重，未可问焉”。胡林翼看后放声大笑：“涤生，你这一字之改，把左季高的意思整个弄颠倒了！”曾国藩回答说：“天地有位，阴阳有序，本来就不可以乱来的。左季高欲将地比天，这就颠倒了，所以应该颠倒过来！”
胡林翼知道，他这话同样是说给自己听的。他送的一联“用霹雳手段，显菩萨心肠”同样也是要让曾国藩在这变乱之年，以非常之手段，取得皇帝之位，来拯救变乱的天下。但曾国藩巧妙地移作用霹雳手段对待起义者，这使得他再也无话可说了。
2.彭玉麟、王运言辞鲜明地劝曾国藩起兵
正当曾国藩把胡林翼送走之时，彭玉麟就从池州来到了安庆。
彭玉麟与曾国藩的关系非比一般，曾国藩曾言，彭玉麟是他的“一二知己者”。彭玉麟用情专注、持身谨严的品格，尤其令曾国藩欣赏。然而，这个谨言慎行的彭玉麟，见到曾国藩后，居然也说出一番石破天惊的话来。
彭以鲜明炽烈的言辞表达出了这样的意思：目今混乱之秋，咸丰早逝，皇位交给了一个6岁的娃娃承当，这是国家的大不幸，这个时候，凡是有爱国之心者，都应当挺身而出，救民于水火之中。而举目四顾，唯有湘军可承担起灭长毛，擎江山的大任。湘军统帅正该是当然的一国之君。最后他试探曾国藩：“东南半壁无主，老师岂有意乎？”
彭玉麟的一番“劝谏”，在曾国藩听起来要比看到胡林翼、左宗棠的对联更让自己震惊。前面两个人只用隐语试探，胡、左二人，尤其是左宗棠，本来就是“胆量冲破天”，问“鼎之轻重”在他嘴里说出不会令人太惊奇。但彭玉麟心细如发、持身严谨、心热肠赤，他说话办事一直都是要经过千思万虑的。现在，他居然胆大妄为，让自己去做皇帝，并表示自己若有此意，他愿意为之赴汤蹈火。彭玉麟的一腔赤诚，虽然让曾国藩感激莫名，但这种事情又怎么能让他答应呢？这是犯上作乱！这与“长毛”们有什么不同呢？于是，曾国藩没有回答，而是拿别的话岔开了事。彭玉麟何等精细之人，见到此情此景，也就不再重提。
没过多久，武昌那边忽然传来了胡林翼去世的噩耗。曾国藩哀伤万分，哭着说：“润芝（胡林翼号）赤心以忧国家，小心以事友生，苦心以护诸将，天下再难找这样的好人了！”对曾国藩来说，胡林翼确实是如此的。自办湘军以来，作为友军和近邻，胡林翼处处为他设想，可以说，没有胡林翼的支持，没有湖北的友邻，曾国藩和湘军是难有今日的。
正在曾国藩哭天抹泪之时，幕僚报告：“王运，王壬秋先生来拜访。”王运是湖南名士，湘军初建时曾入曾国藩幕府，后应肃顺之邀，在其家教读，甚受尊重，实则用为心腹，连咸丰皇帝都知道肃顺幕僚中有一个“王举人”。王自视甚高，不愿做官，但自从为肃顺看重后，结交京内外官员、士人，几年后也是名满天下了。
王运向来以名士自居，一见面便语出惊人：“国家大乱在即，我为大人谋一良策！”
曾国藩虽喜王运的文章，但对他这种危言耸听的态度却很反感。王运见曾国藩不置可否，便接下去说：“皇太后要行垂帘听政之举，大人想必已经知道！”他不待曾国藩回答便继续说：“纵观史册，女子临朝，国必大乱！”王运的几句话便打动了曾国藩，此人是肃顺的“西席”（即家庭教师或幕友），其语绝非道听途说。于是，曾国藩认真地听他讲述了宫中内幕，即慈禧太后与恭亲王联合，推倒顾命八大臣，实行垂帘听政的内幕。王运站在肃顺一边，认为肃顺力矫弊政，重用汉人，高瞻远瞩，但慈禧太后母因子贵，内结权臣，外援重兵，八大臣很难成为她的对手。最后，他为曾国藩指出两条道：一条是拥湘军之重兵，入觐九重，申明垂帘违背祖制，而行顾命之制；另一条是干脆在东南举起义旗，为万民做主。以湘军之众和曾氏的威望，天下必然响应。他可以说动肃顺来拥戴曾国藩，肃顺本来就看不起满人，而钦佩曾氏。
然而，曾国藩只是漠然相待，并以指蘸茶，漫不经心地在桌上画着。王运顺着曾国藩的手指看去，竟是一连串的“狂妄，狂妄，狂妄……”王运看后，嘴上戛然而止，立马起身，告辞而去。
3.不做东南之主，却成了实质上的东南之主
对于左宗棠、胡林翼的试探和彭玉麟、王运的劝谏，曾国藩显得忧心忡忡，怕万一隔墙有耳，诬告他有不臣之心怎么办？
不过，曾国藩的担心是多余的，但他的对策却很正确。他报定“效劳朝廷，忠君报清”的主意，拒绝了彭玉麟等人让他做国家之君或东南之主的劝谏，坐等形势之变化。咸丰十一年（1861年）九月三十日，慈禧太后发动祺祥政变，将顾命八大臣肃顺等或处死或革职流放，由两宫皇太后垂帘听政，恭亲王奕以议政王辅政。十月五日改年号祺祥为同治，以明年为同治元年。慈禧太后与奕政权为了抓紧镇压太平军与捻军，改变了咸丰对汉官的态度，大胆向汉官放权。
同年十月十八日，清廷发布上谕，令曾国藩管辖江苏、浙江、安徽、江西四省军务，自巡抚、提督以下文武官员皆由他节制。根据曾国藩提议，四省的巡抚等重要官员也都做了调整，多由曾国藩的手下或与湘系有密切关系的人担任，李续宜为安徽巡抚、左宗棠为浙江巡抚、李鸿章为江苏巡抚、沈葆桢为江西巡抚。曾国藩的许多部下也都升了大官，彭玉麟授为安徽巡抚，因其力辞不受，改为水师提督、兵部右侍郎；杨载福早在几年前已授福建水师提督；骆秉章升为四川总督，刘长佑为广西巡抚；曾国荃、刘蓉、李桓、蒋益澧等将领都升为布政使；毛鸿宾为湖南巡抚也是由曾国藩所推荐。
这样，东南数省不仅尽归曾国藩管辖，各省文武官员负主要责任的也都是曾国藩的部下、心腹和故旧。曾国藩不做东南之主，却成了实质上的东南之主。
此时，李秀成经营江浙，围攻杭州，巡抚王有龄向曾国藩告急。然而，王有龄与曾国藩素不和睦，他不支持湘军作战，拒不供前往浙江作战的湘军粮饷，还在曾国藩最困难之时把背叛曾氏的湘军将领李元度收归自己麾下，曾国藩对此事耿耿于怀。现在，王有龄向他求救兵，他根本不予理睬，反而要实现自己的计划：让左宗棠取代王有龄，不允许王有龄这样对他不忠心的人在他的治下存在。于是，他上奏左宗棠督办浙江军务，又不令左宗棠迅速入浙作战。直到1862年1月，太平军攻下杭州，王有龄自杀，浙抚衙门官员死得差不多了，曾国藩才令左宗棠迅速入浙。同时，密保左氏为浙江巡抚。
杭州被攻克，左宗棠遵令快速入浙，连连攻下开化、常山、衢州。同时，曾国藩派出鲍超、曾国荃、张运兰、朱品隆等部在皖南、苏南、赣东发动攻势，配合左宗棠进攻浙江的太平军。曾国藩为左宗棠进兵浙江，造成了非常有利的局面，尤其为左氏晋升为浙江巡抚制造出了无人可替代的大好机会。很快，左宗棠被清廷任命为浙江巡抚。
4.权力之高，江南第一人
自安庆被湘军攻陷后，太平天国在长江上游失去了进攻能力，但在下游却取得了进攻时机。李秀成在江浙一带的苏福省开辟了第二个“小天堂”事业，他的兵力有原来的数万人，有“第二次西征”在武汉地区吸收的二三十万农民队伍，又有自石达开部返回来的朱衣点、童容海等10余万人，太平军在苏南力量的壮大正威胁着上海。
上海是洋人集居的地区，太平军攻占江浙各要镇，许多官僚、士绅都躲到了上海。洋人与官绅为阻止太平军的进攻，都组织了武装力量，如洋枪队等。同时，他们还效法春秋时楚国申包胥去秦国哭求救兵，抵抗吴国进攻的故事，派江苏太仓绅士钱鼎铭至安庆见曾国藩，他声泪俱下，叩头乞师，让曾国藩派兵拯救上海的中国绅民。曾国藩感到手下再无兵可派，又怕派出兵去，上海地处僻远，若有个紧急，声援无法相达，所以并未同意派兵去上海。随后，钱鼎铭见到了曾国藩身边的李鸿章，双方议论了上海的形势，认为那里“商货骈集，税厘充羡，饷源之富”，“弃之资贼可惋也”。李鸿章再与曾国藩共议向上海派兵的问题，他们进一步认识到，从军事上考虑，湘军自西东进，由上而下，若再控制了上海，又可“由下捣上”，分兵合击，从东西两线夹攻太平天国首都天京城；再者，“上海为苏杭及外国财货所聚，每月可得厘捐六十万金，实为天下膏腴”。于是，最终决定分兵援沪。
曾国藩还对江苏巡抚一职格外重视。当时的江苏巡抚薛焕因苏南为太平军所占，正避居上海，无所作为，曾国藩决定借机援沪，取得这一职衔。刚开始时他想让其弟弟曾国荃领兵开赴上海，但是曾国荃竟无意去上海，而要直接围攻天京。
曾国藩的初步设想为曾国荃所拒绝，才商之于李鸿章。李鸿章一听，心中异常激动，当场表示若能领兵去上海，保证能肃清上海周围的太平军，进而夺取苏南地盘，为最后镇压太平天国贡献力量。曾国藩听了之后笑着说：“你去上海我就放心了，但我的身边却少了一个得力助手，那可怎么办啊！”李鸿章生怕曾国藩变卦，赶紧“坚请赴申”，于是曾国藩允许他赴沪。
由于李鸿章一直是幕僚，手中并无军队可以带至上海，曾国藩许诺帮他募集一支军队。他首先写信给合肥的张树声，张专程来到安庆，商量募兵一事。曾、李、张等商定按湘军模式编庐州一带的团练，名曰“淮军”。由张树声约集了潘鼎新、刘铭传、吴长庆等人，在皖北招募，先后编成张树声的树字营、潘鼎新的鼎字营、刘铭传的铭字营、吴长庆的庆字营、张遇春的春字营。两个月内，诸营陆续成军开至安庆。同治元年（1862年）正月二十四日，淮军各营在安庆北门外集合，由曾、李检阅。
曾国藩深怕淮军到了上海后会不堪一击，于是当天又从湘军中拨出8营，归入淮军。这八营中有曾国藩的两营亲兵，用来充任李鸿章的亲兵。另外还有借自曾国荃的开字两营、薛焕委托曾国藩在湖南招募的林字两营、湘军陈士杰的熊字一营、垣字一营，分别由程学启、滕嗣林、滕嗣武、陈飞熊、马先槐等人统带。加上李鸿章招募的各营，总计13营，6500人。
曾、李起初决定，练成的淮军沿长江北岸步行前往上海。二月二十八日，钱鼎铭、潘馥由上海乘轮船抵达安庆，告以已雇妥英国轮船21艘，分三班潜渡上海。三月七日至五月初，13营淮军全部运至上海。
李鸿章赴沪的第十七天，即三月二十七日便奉命署理江苏巡抚，这完全出自曾国藩的保奏。早在咸丰十一年（1861年）十一月二十五日，曾国藩就上奏弹劾江苏巡抚薛焕丢城失地，不能胜江苏巡抚之任，并保奏李鸿章“才大心细，可接苏抚之任”，并表示若准奏，自己可拨给军队，保卫长江下游地方。清廷急需军队开赴长江下游与太平军作战，在接到曾国藩的奏折后，稍作安排，便将薛焕调入京师，而任命李鸿章为江苏巡抚。
上海是当时中国对外开放的最大通商口岸，各资本主义国家侵略势力聚集于此，对太平天国起义十分仇视。曾国藩把李鸿章派进上海，立即发生了如何对待外国势力的问题。