早在浙闽的戎马倥偬中，左宗棠就认识到扫除荡平太平军余部仅是时间的问题，最根本的是要抓好战后的重建事项。他认为，要畅通东南交通，巩固海防陆疆，造船为当务之急。他奏请政府设船厂，试造轮船。他说东南大利在水域而不在陆地，从广东、福建一直到山东、直隶、盛京（今辽宁）大海环绕，江河以外万水朝宗。轮船既可巡海防卫，遥卫京畿；又可以逆水而上进入内陆。和平时期可转输百物，战时可迅速调集南粤之师、七省储备，有百利而无一害。另外，两次鸦片战争的惨痛教训仍历历在目。西方列强的兵轮直达天津如入无人之境，内陆防御形同虚设。因而设厂造船更显得必要和迫切。左宗棠强调，巩固根本是百年的大事，依照中国的实际要脚踏实地、循序渐进，“备成一船之轮机，即成一船；成一船，即练一船之兵”，逐步扩大规模。他的分析精辟入里，所以清廷下令立即设立福州船政局。船政局辖有工厂和学校两大部分，尤以马尾船厂，规模最大，设备齐全；它所创办的各类学校如造船工程学校和造船技工学校，是中国最早的海军学校，为国家培养了不少海军人才，如邓世昌、林永升、严复、萨镇冰、刘步蟾、林泰曾等；又为国培养了一批制造轮船、兵舰的人才，如郑清濂、罗臻禄、李寿田、魏翰等。兴办海军学校，不仅在中国教育史上，而且在中国军事史上都有独特的意义和地位。公元1876年，英国海军军官寿尔访问福州船政局时，他惊叹不已，称学校是船政局的最重要部分：“整个制度的组织基础有一个特色，最有力地证明它的天才的创办者……的才能。”不久，左宗棠因有新的重任，船政局由沈葆桢接办。
同治五年八月，左宗棠被调为陕甘总督，并以钦差大臣的名义督办陕甘军务，开始了西讨的征途。这次他对付的是捻军和陕甘回民起义，前后历时八年。他根据自己十多年的用兵经验和丰富的历史知识，向朝廷系统地阐述了西北用兵的机宜：西北的战事利戎马，东南则利舟船。东南战事的转机是在炮船练成之后，西北军事的转机亦在车营马队训练完成之后。他援引史例说，春秋晋侯乘郑国所产小驷御秦而败，是南马不能抵西马的例证。汉李陵领荆湘步兵在朔北被匈奴所败，是步队不能抵挡马队的例证。所以要迅速荡平捻、回之乱就必须改步兵为骑兵；捻、回利用马队，采取流动战术，驰奔于平原旷野，来去如飘风骤雨，抵御他们，非马队、车营不行。他又指出，西北马不如东北马雄壮，康熙用东北铁骑平定回叛和靖定朔漠就是例证。最后左宗棠初步定下了自己的进军方略：“进兵陕西必先清关外之贼；进兵甘肃，必先清陕西之贼，然后驻兵兰州，饷路才能畅通，行军才无梗阻。”“以地形论，中原为重，关陇为轻；以平贼论，剿捻宜急，剿回宜缓；以用兵次第论，欲靖西陲，先清腹地，然后客军无内顾之忧，饷道无中梗之患。”左宗棠系统地论述了关于西北战事的各种因素，运筹帷幄，决胜于千里之外。后来战事的发展证明了他的西北“兵论”确属真知灼见。
不过，实际用兵作战远非纸上谈兵那么轻松。捻军起事非止一日，其势力影响不可小觑，清军悍将僧格林沁亲王就是被捻军所斩杀的。深谙用兵之道的曾国藩对捻军作战也是败多胜少。而陕甘回乱持续多年（从起事到被剿灭历时十二年），又是少数民族集居地，民族矛盾本来就十分尖锐。这些回民剽悍惯战，对汉人又很仇视。清军勇将刘松山就是在平回战斗中炮阵亡的。捻军与回乱遥相呼应，加上路途遥远，军需供应十分艰难，所以平定西北是一块难啃的硬骨头。
同治六年（公元1867年）四月，左宗棠率大军经随州樊城分三路人关。他亲率一军直趋潼关；刘典趋蓝田；高连升率新军随往。战事之初清廷认为左军进展迟缓，对他多有责难，并一度给他降职三级留任的处分，甚至左手下的将士对他也多有微辞。不过，这正是左宗棠老辣独到的地方，不急功冒进，统观全局，稳扎稳打。直到兵士的骑术、炮战练熟之后，才大举进兵，最终在同治十二年（公元1873年）十月，彻底勘定了长达12年的反叛。清廷颁诏嘉奖说：“陕甘逆回扰乱，十有余年，势极披猖。自简任左宗棠总督陕甘，数年以来，不辞艰苦，次第剿除。此次亲临前敌，督饬将士，克复坚城。关内一律肃清……”因此，朝廷加封他为总督兼协办大学士，授一等轻车都尉世职。在清朝统治者眼里，左宗棠俨然就是清廷在西北的一道坚固长城。
4.力排众议，进军新疆
面积达166万平方公里的新疆，古称西域，自古就是中国的领土。它地阔人稀，自然资源十分丰富。清朝从康熙时起就积极经营新疆，并在新疆建立起了有效的统治。由于大清王朝日益走向腐败、黑暗，对新疆人民又实行种族高压政策，加上外国侵略势力的煽动以及太平天国和捻军及回民起义的影响，新疆曾多次掀起大规模的反清浪潮，建立了许多地方割据政权。由于民族矛盾错综复杂，这些被少数民族上层封建主把持的割据政权相互攻城掠地、混战不休，给新疆人民造成了巨大的痛苦和灾难。
就是在这样的情况下，回族封建主金相印为扩充势力，竟勾结境外浩罕国的阿古柏入侵新疆。阿古柏采取武力强夺和阴谋攫取的手段，几乎控制了整个新疆，对新疆人民实行残酷的殖民统治。处在水深火热之中的新疆各族人民强烈要求清朝政府出兵平叛，收复被占国土。
当时英、俄政府企图利用阿古柏伪政权，获取更多的权益。它们不顾国际惯例，竟然承认阿古柏伪政权的“合法”性，与之通商，建立“友好”关系。阿古柏也欲借助英俄的势力巩固和扩大自己的“成果”。这些侵略者臭味相投，狼狈为奸。被左宗棠打败的劣回头目白彦虎也胁迫大批回民窜至新疆，投靠了阿古柏，使阿古柏的势力得到进一步加强。与此同时，沙俄利用阿古柏入侵造成的有利形势，以中国政府不能控制伊犁、有效地保护俄侨为借口，派兵强占了伊犁，使本来就恶化的西北局势雪上加霜。
伊犁地区，在经济上是富庶之地，物产丰富，被称为新疆西部的粮仓；在军事上，它是北疆的门户，易守难攻，连英、法人都称伊犁是中国镇守新疆的一大炮台。清廷也认识到伊犁的重要性，于同治十二年（公元1875年）诏令金顺迅速赴古城（奇台）会同景廉规复乌鲁木齐；令穆图普赴安西、王玉等以壮声威；令张曜、宋庆赴哈密；令左宗棠统筹粮饷。“屋漏偏逢连天雨”。海疆危机这时如大潮汹涌而来，从而导致了一场激烈的海防、塞防之争。
以直隶总督李鸿章为首的一批督抚大臣，认为“海防”、“塞防”力难兼顾，主张暂弃新疆，移西征之饷于海防。其理由如下：1．新疆与内地的关系不如沿海密切，新疆为肢体之患，而海防为心腹之患；2．当时财政极其困难，陕、甘用兵已使各省财枯赋竭。再用兵新疆，不但胜负难料，仅转运之费较甘肃就要增加几十倍；3．新疆地处僻荒，和平时期内地就要支援其300万两白银的军事费用，所以失之不损；4．新疆国际关系复杂，英俄染指相争，不如暂且由之，以待时机。海防派的看法并不是完全没有道理的。远在西北边陲的左宗棠得到总理衙门的咨询之后，立即上疏痛陈海防、塞防不可偏废。他认为：第一，新疆是中国西北的屏障，保新疆即保蒙古，保蒙古即拱卫京师。新疆不保，京畿不安；第二，染指新疆的各国其葸在通商，并无领土野心，如果得到商业利润必不会轻于发难；第三，海防费用如筹划得当可自行解决，相比之下，塞防所需饷银很少，而且历年欠饷很多，即使放弃西北，也无饷银可移……放弃新疆等于自撤藩篱。左宗棠力陈要害，不避毁谤，颇有“沧海横流，方显英雄本色”的气概！清廷也认识到新疆的得失与国家休戚相关，终于决定海防、塞防并举，令左宗棠为钦差大臣，督办新疆军务。