一 谋取江浙，别立淮军
太平军李世贤部被左宗棠打败后，随即撤离江西，准备与他的堂兄李秀成一起经营浙江。在湘军与陈玉成血战安庆的时候，李世贤已攻占浙江西部、南部大部分地区。1861年6、7月间，李秀成进入湖北长江以南的大冶、武昌县（即鄂州，非省城武昌）一带，逼近武汉，但他没有向武汉发动进攻，而是逐步撤出江西。等到得知安庆被湘军攻占，李秀成决意回师经营江浙。二李配合，他们很快就占领名城绍兴，合围省城杭州。1861年12月29日，李秀成攻占杭州。湘军攻占安庆之前，太平天国占有江苏一部分、安徽大部分，并在湖北、江西与湘军争夺。安庆之战后，安徽这块太平天国的老根据地大部分失去，只剩下皖南一角和皖北少数地区，陈玉成死后，太平天国已基本上退出皖北，太平天国天京上游的屏障已不复存在。但是另一方面，由于李秀成和李世贤等大将的努力，太平天国又占有了苏南和浙江大部分地区。假如没有战争，这块地方是中国最富庶的地区。1862年以后，太平天国就主要靠李秀成和江浙地区维持它的生存。
当太平军攻浙江时，清政府曾多次命曾国藩饬左宗棠等赴援，但援兵未到，杭州已失。不少人认为，杭州被太平军攻占，是因为曾国藩有意让左宗棠缓进，坐视浙江巡抚王有龄败亡，然后可为左宗棠谋得浙江巡抚一职。王有龄属何桂清集团成员，曾国藩不喜欢此人，这是事实。曾国藩也确有为左宗棠谋浙江巡抚的想法。但若说曾国藩故意让王有龄败亡，则恐怕有些牵强。就在曾国藩接到命他节制四省军务的后两天，他还在日记中写道：“三点睡，不能成寐。彻夜大雨至晓。念鲍（超）军不能拔营进剿宁国，稍分浙贼之势，左军亦难成行。浙事糜烂，外无救援，殆无幸矣。余奉命兼办浙江军务，坐视其阽危而莫之救，愧负之至。”这充分反映了曾国藩无兵可派，无可奈何的心情。湘军从湖北、江西向东进入安徽后，一直分成江南、江北两个战场，当杭州危急时，江北战场上，皖北苗沛霖攻占寿州（今寿县），前安徽巡抚翁同书成了他的俘虏，虽然苗沛霖声称并非造反，只是向寿州团练报仇，但此举已导致皖北局势恶化和清廷的惊慌。与此同时，湘军大将多隆阿又生病呕血。李续宜继胡林翼任湖北巡抚，难以抽身。正在这时，上海及江苏绅士又派钱鼎铭来安庆向曾国藩苦苦求救，曾国荃又回湘募勇，曾国藩正苦于无兵可派（见后面的叙述）。江北方面既然抽不出兵来，江南战场就只有左宗棠和鲍超两军实力较厚。左宗棠军不过八千人，鲍超所部也不满万人。鲍超正在皖南宁国一带与太平军相持，左宗棠如援浙，鲍超无法配合，左宗棠只有孤军前进。到浙江作战，不同于先前在江西，江西已是湘军自己的根据地，后面又背靠后方湖南，如湘军到浙江，四面都是太平军，后勤补给将发生困难，凭一支孤军，要冲破太平军的层层关卡去救援杭州，谈何容易？这里还应该指出，曾国藩没有让左宗棠速援杭州，也与他用兵谨慎有关，三河的惨败离现在不远，曾国藩不太愿意他的部将冒此大险。但到了此时（1861年12月19日），因清廷催促甚急，又命他督办四省军务，曾国藩虽然表示不敢接受督办四省军务的重任，另一方面也只好硬着头皮叫左宗棠速去援浙，并把希望寄托在太平军李秀成人多但不善战，李世贤敢战但不耐久上。而此时正是杭州紧急之时。这在他的书信、日记中都可以得到证实，所以，说曾国藩故意让王有龄战死后再催左宗棠进兵，是缺乏根据的。
待杭州失守，曾国藩密奏由左宗棠接任浙江巡抚，但仍主张左宗棠稳扎稳打，自西向东，先经营浙西，然后步步推进，并奏请原为刘长佑部下的湘军大将蒋益澧率兵五千前来助战。1862年1月23日，清政府正式授左宗棠为浙江巡抚，曾国藩又保荐蒋益澧为浙江布政使。蒋此时驻军广西，由刘长佑指挥，曾国藩亲自致函刘长佑和蒋益澧，请蒋益澧前来。此后，左宗棠在其他各路军队的配合下，开始向浙江太平军进攻。
五口通商后的上海旧照
当杭州危急的时候，太平军对上海的压力也在增加。自从第一次鸦片战争以后上海开辟为通商口岸，很快就繁荣起来，并且迅速超过广州成为中国对外贸易的中心。1853年太平天国占领金陵的时候，金陵城大批富商、绅士逃避上海，这样就更加速了上海的繁荣。上海再不是江苏省的一个普通县城，它的重要性大大增加了。曾国藩布置安庆会战时，对上海的处理实际上是个漏洞。江苏巡抚薛焕手里虽有三万兵力，但都是些残兵败卒，薛焕又根本不懂用兵，放着上海巨大的财力物力，不仅无所作为，任凭太平军在江浙横冲直撞，甚至守不住上海，幸好洋鬼子帮了清政府的忙，上海才没有丢。事实上，如果不像曾国藩那样对军制作一个重大的变革，换了别人也是无能为力。在这一阶段，太平军对上海的压力不但没有减轻，反而随着李秀成在浙江的胜利而与日俱增。因此，上海中外会防局的官绅们特别希望两江总督曾国藩能派兵到上海来。1861年11月6日，有金匮知县华翼纶自上海来曾国藩两江总督府请兵，并告诉曾国藩，上海每月可筹饷六十万两，又说上海绅商愿意助饷，盼曾国藩早日派兵到上海。曾国藩内心已经活动。过了十二天，也就是11月18日，上海绅士们的代表户部主事钱鼎铭和江苏巡抚薛焕的使者又到安庆。钱鼎铭带来上海绅士的公函，说上海一带，只有上海、江苏镇江、浙江湖州三地没有被太平军占领，但也难以持久；上海一带有乡团、不服太平天国的枪船势力以及太平天国内部的内应可以利用，但如没有大军前去，这些势力都不能持久。公函中说：“但请奇兵万人，以一勇将领之，间道而来，旬日之间，苏、常唾手可得。大军不至，则铁郭金城将沦灰烬。及今不图，后悔必矣。”这公函是一个叫冯桂芬的人写的，曾国藩记住了他的名字，这冯桂芬后来入李鸿章幕，主张改革，很有影响，但这是后话。这封公函打动了曾国藩，再加上钱鼎铭座上痛哭流涕，“情词深痛”，就好像春秋时代楚国包胥到秦国痛哭求救兵一样。到11月23日，钱鼎铭再次拜见曾国藩，“语次声泪俱下，叩头乞师，情词哀迫”，曾国藩最后答应派兵救援上海。但是派哪支兵去呢？曾国藩最初打算让曾国荃带一万兵去，但是性情蛮狠的曾国荃表示，一定要啃金陵这块硬骨头，不愿援上海。曾国荃还回信说：“松、沪财赋甲天下，筹饷易。然贼巢在金陵，急攻其巢，必以全力援救，而后苏、杭可图。愿任其难者。”曾国藩只好另想办法。
淮军
曾国藩早就认为，淮北一带民风朴实强悍，若加以适当训练，可成劲旅。更深一层，他认为湘军现在已有暮气，必要时要有一支可以代替湘军的军队，这支军队既要与他关系密切，又要能打仗，缓急可恃。现在他无兵可派，终于想到从淮北另募一军援上海。由谁来负责招募、训练和统率这支军队呢？当然最合适的人选是李鸿章。李鸿章出自合肥，原来就在淮北带过兵打过仗，又与曾国藩关系密切。但是长期以来曾国藩一直依赖李鸿章为其起草奏折等重要文件，兼为幕府心腹高参，最重要的事情常与这位见识超出一般幕僚的门生商量。若李鸿章离开总督府，将给曾国藩带来一定困难。但此时情形紧急，曾国藩再也顾不得这些了。因为若由曾国荃援上海，有现成的兵可派，可迅速成行，老兵打仗也较可靠。新募淮勇援沪，不仅成行要慢，而且新兵打仗也似不如老兵可靠。所以曾国藩已是不得已而求其次了。
正在紧张组建新军的时候，清廷于同治元年正月初一（1862年1月30日）命曾国藩为协办大学士。大学士是个由来已久的官衔，晚清的时候，大学士已没有多少实权，但是就地位来说，却是十分崇高的职务。当时大学士例有五人，大学士之下，有协办大学士，当前面的几位大学士中有离职或病逝的时候，一般会由协办大学士递升。大学士、协办大学士共七人，是很不容易才能得到的头衔，也是许多人梦寐以求却得不到的。曾国藩于正月十七日（2月15日）接到命他协办大学士的上谕，他第一个念头就是权太重、位太高，想辞协办大学士之位。他还在日记中说“责任艰大，才智不称，精力日疲，可忧之至”。与众幕僚商议，大家主张应接受协办大学士而辞节制四省之权。但清廷坚持让他两者都担任，他的辞谢没有效果，但是他的诚惶诚恐的意思却已明白向清廷表达过了。这时候曾国藩的官衔越来越多，越来越大，1862年3月1日这天，他发现他所用的公牍纸上所印的官衔太多，便删去十四个字，并戏题一诗：“官儿尽大有何荣？字数太多看不清。删去几条重刻过，留将他日写铭旌。”
李鸿章不负他的老师所望，两个月就组织起新军。但他成军的办法，不是从头招募，而是利用了淮北一带旧有的与太平军作战的团练。这些团练首领有张树声、刘铭传、潘鼎新、吴长庆以及已参加湘军的李鸿章原在淮北的部将张遇春。李鸿章把这些原属于地方武装的团练按湘军的营制改编，从此中国又出现了一支新的军队——淮军。曾国藩恐怕淮军新成军，人数既少，又多新兵，于是又拨八营湘军给李鸿章。其中最有名的是程学启的两营。程学启原是太平天国陈玉成的部将，在安庆大战时投降了湘军，一直由曾国荃指挥，勇悍善战，成为李鸿章的得力干将。这样李鸿章所部达到了六千五百人。淮军的体制，大都仿效湘军，但也有三点与湘军有别：一为将领，湘军将领多以书生担任，淮军将领则十分庞杂，读书人不多。二为士兵，湘军专招朴实乡农，而淮军因为仓促成军，士兵中团练、甚至降卒都很多，还有大量收编原清军防军。三为武器，最初成军时，淮军武器与湘军并无不同，但李鸿章一到上海，马上认识到西洋先进武器的优越性，不遗余力地更换装备，大量应用新武器，致使淮军战斗力迅速提高，并且营制也因为使用新武器而有所改变。在使用新武器上，后来湘军反过来又模仿淮军。
淮军进入上海
这么多的军队如何赴上海呢？曾国藩最初与李鸿章计议，是沿江北陆路步步向东推进，抵达尚为清军控制的镇江。安庆与上海相隔千里之遥，中间又有许多地方为太平天国控制，所以这一办法很不容易。而此时上海方面的绅商已经等不及了，他们与英国驻上海领事商定，用十八万两白银雇英国轮船运兵。江苏巡抚薛焕原是何桂清集团成员，本不情愿湘军势力控制上海江苏，因为曾国藩的部将很可能抢去他的巡抚饭碗，但是他的兵又实在难以守上海，与其让太平军攻破上海而自己丢掉脑袋，还不如让湘军控制江苏上海而自己仅失去江苏地盘，所以最后还是勉强同意用巨款雇轮船。1862年3月28日，钱鼎铭带部分轮船到安庆，次日，曾国藩和李鸿章决计用轮船运兵，直抵上海。4月5日，第一批淮军登轮启程，至6月上旬，淮军分三批全部到达上海。曾国藩从此开辟了一个新的战场，李鸿章也从此开始了他的真正的政治生涯。4月25日，由曾国藩保荐，清廷命李鸿章署理江苏巡抚，薛焕只担任通商大臣，不久清廷再将薛焕调京，命李鸿章兼任通商大臣。在此以前，曾国藩已推荐湘系的陈士杰担任江苏按察使。李鸿章又请与他同年中进士兼好友的郭嵩焘来管财政。江苏布政使吴煦握财政大权，次年以办理洋枪队不善，李鸿章将其弹劾罢职。这样，江苏继湖南、湖北、江西、安徽、浙江之后，也落入湘系手中。而李鸿章系统的军队也迅速扩充，1863年5月达四万人，1864年10月达到七万人。