二 别开生面，赤地立新
在咸丰帝上谕的诏令下，在父亲的殷殷期许中，在好友的再三说服下，家居四个多月的曾国藩于咸丰二年十二月十七日，自湘乡起行，二十一日来到了长沙，开始筹办团练，走上“以杀人为职业”（曾国藩语）的道路。
早在京师时，曾国藩对清朝军政的腐败至极就有入木三分的认识。他清醒地意识到，必须改弦更张，才能走出困境。
本来，清朝的武装力量即国家的“经制额兵”，主要由八旗兵和绿营兵两种构成。在编制和待遇等方面，二者有很大不同。八旗兵在许多方面优越于绿营兵。但早在康熙平定三藩之乱时，八旗兵的衰落已是不争之实。因此，在这场长达八年的战争中，最后主要是通过绿营兵平定的。三藩平定后，八旗对绿营的依赖日益严重。至乾隆时，连皇帝也说，“打起仗来，八旗不过随众行走，还不如绿营奋勇，深为可恨”。这表明，八旗的主力地位已逐渐被绿营取代。但绿营兵平时担负繁重的地方杂役，战时又为八旗打先锋、当后勤，而各种待遇又远不如八旗，处处受压制，加之装备落后，兵将不亲，因此自嘉庆初期五省白莲教起事以来，绿营也开始走向衰落。
除正规军外，清朝还有乡兵。这种兵始自雍、乾，但当时“旋募旋散，初非经制之师”，就是说，它只是权宜之计，是对正规军的一种补充与应急。但由于乡兵在镇压白莲教起义中立有战功，更主要的是由于八旗、绿营的衰落，乡勇的地位也就日益重要。
太平天国起事后，清朝先后派李星沅、赛尚阿、徐广缙、向荣等多位将帅前往镇压，都未能扑灭起义的火种，相反太平军势如破竹，很快占有广西。李星沅是接替卒于潮州途中的林则徐之后的又一位钦差大臣。此人是湖南湘阴人，出仕以前，曾客陶澍幕中，为掌章奏，后服官地方，也算有所作为。曾国藩十年前赴四川充乡试正考官时，途中患病，多亏当时任陕西巡抚的李星沅延医护持。李的母亲还为曾国藩做了几日的祈祷。因此曾国藩对李星沅颇怀好感。李星沅于道光三十年底至广西，就断定洪秀全等人来者不善，上书清廷，请求厚集兵力，一鼓作气，聚而歼之。他还认为前方将帅“事权不一”，请派大将军出征统率，咸丰帝斥其推诿。忧惧交加的李星沅，不久卒于军中。曾国藩作挽联以悼：
八州作督，一笑还山，寸草心头春日永；
五岭出师，三冬别母，断藤峡外大星沉。
继任的赛尚阿贵为首席军机大臣，行前咸丰帝特赐遏必隆刀，以壮其行，给库帑二百万备军饷，又调集多达四万兵力，但“左右无一正人，无一谋士，其忌刻倾险，尽是内务府气习”。当太平军攻打长沙时，他被革职拿问，论大辟、籍家，不久释之。继赛之后的徐广缙，以钦差大臣署理湖广总督之职与太平军周旋。太平军围长沙，他躲在湘潭；太平军围武昌，他在湖南逗留不进，并且奏报说：“当可解围，乃数日之间”，清廷刚接到奏报，武昌即被太平军攻下。咸丰帝上谕曰：“该大臣如此料贼，殊堪浩叹！”徐广缙被革职押解回京，定为斩监候，原籍家产及任所资财全被查抄，寻释之。其后，清廷以向荣代之。向虽略胜李、赛、徐三人，但也只是五十步笑百步而已。清人论曰：洪秀全金田初起，苟军略一致，举动得宜，未尝无坐弭巨敌之望，然自林则徐道殁，期月之间，将帅屡易，文武不合，秀全势焰始炽，是知祸之来，有莫之致而致之者已！
广西金田村
将士的情况也十分糟，当时一位路过两湖的官僚概述为：“兵畏贼，不畏将；将畏兵，不畏法。”李星沅也承认：“将备弁兵毫无顾忌，见贼辄走，已成故套。”向荣所部战斗力较强，但每打胜仗一次，一兵要赏银一两，后改为三钱，“军中哗然，誓不出力”。将帅之间互相掣肘，将与兵如同路人，暴露了清朝原有的军事体制已很难适应战时需要。团练就是在这种情况下走上历史舞台并一变而唱主角的。
团练之制，始于唐代，以后历代相承，沿而不废，只有内容与形式上稍有变异。至清代已从原来的国家军事组织演变为地方自卫武装，成为维护治安的重要力量。
道光三十年（1850），清政府命两广总督徐广缙赴广西劝谕士绅兴办团练，以协助绿营军对付太平军。咸丰二年（1852）太平军北进湖南，咸丰皇帝命令两湖，尤其是湖南兴办团练，并令原湖北巡抚罗绕典劝当地士绅协助湖广总督及湖南巡抚兴办团练。次年，清政府要求全国各地普遍举办团练，任命丁忧或在籍的官员为团练大臣。一时间，全国有团练大臣四五十人之多。其中，仅山东省就任命了十三位团练大臣，江苏有八位团练大臣，浙江、福建也各有四位。清政府还将咸丰皇帝的有关谕旨以及嘉庆年间明亮、德楞泰的《筑堡御贼疏》、龚景翰的《坚壁清野议》等刊刻印发，以供团练大臣参照执行。
湖南兴办团练可谓颇有传统，也很有成效。乾隆朝的傅鼐、道光朝的江忠源都以此名扬四海。曾国藩的家乡湘乡县又是湖南兴办团练最早的县份之一。曾国藩的二弟曾国潢曾在家乡组织“安良会”，以对付聚众抢劫者。太平军进入湖南后，湘乡县令朱孙诒曾募勇千人，在衡州协助清军防堵。他还召集各地乡绅订立章程，在湘乡县城设立总团，在湘乡、永丰和娄底分设三个团练局，并请曾国藩的父亲曾麟书出面筹办，请乡绅罗泽南、刘蓉协办湘乡团练。
罗泽南长期在善化、湘乡等地教书，培养了大批学生，其中不少人后来成为湘军初建时的重要人员。如王珍、李续宾、李续宜等人。
王珍，字璞山，湖南湘乡人，二十四岁补县学，同年投到罗泽南门下，拜其为师，日夜讲习明善复性、修己治人之道。道光二十九年（1849）夏，湖南大旱，饥民在湘乡县南抢掠富户。王珍组织富绅自卫，一时影响颇大。太平军攻破道州后，他上书知县朱孙诒，请编团练，协助罗泽南挑选乡勇，组织训练。
李续宾，号迪庵，湖南湘乡人。李续宜，号希庵，李续宾的胞弟。李续宾性格沉稳，不苟言笑。他身材高大，膂力过人，尤其善于骑射，能挽三石弓。因为双亲年迈，家境贫困，以贩煤养家糊口，并供弟弟读书。罗泽南十分赏识他，将兄弟二人一并收作学生，除免收他们的学费以外，还将自己微薄的收入省出一部分，以供养其双亲。罗泽南练勇之初，李氏兄弟成为助手。罗泽南最初在湘乡练勇一千多人，分为中、左、右三营，分别由他自己和王珍、李续宾率领。当太平军离开湖南，顺长江东下后，阻击长沙的各路清军尾随而去，一时间，长沙城内十分空虚。因此，巡抚张亮基檄调罗泽南率湘乡练勇前往守城，并以此为基础，仿照戚继光成法编练新军。
曾国藩按“赤地立新”原则组建的湘军
曾国藩本来是一个信奉程朱理学的学者型官僚，当时代给他提供了一个转换人生角色、施展自身才华的新契机时，他不失时机地抓住了这一契机，利用这一“变局”，把自己由守制官员变成了军人将领。从咸丰二年奉旨兴办团练开始，到同治十年（1872）他去世前的二十年间，他几乎没有离开过军事。用他自己的话说，以杀人为业，择业极为不慎，有违书生本义。但如果不是这一次不慎“转业”、“改行”，曾国藩何能成为“办事兼传教之人”（毛泽东语）？本来，清朝的军事体制吸取了历朝历代的教训，主旨在于防止武官造反。为此，国家每有战事发生，临时派遣亲王、郡王为大将军，这就是统帅；兵则一般东省五百、西省八百，临时凑成几军。有大战事，则派京师劲锐八旗，也是从各旗抽调。这样，兵与兵不相知，将与将不相识，兵、将之间更难有“私属”关系发生。这种旨在防范的体制到了嘉庆年间已经越来越不适应。因此，当白莲教五省起事后，清廷在利用国家传统的正规军打仗的同时，也让地方官员举办团练，以自保乡里。这后一种不起大作用的新办法到了咸丰初年却派上了大用处，唱起了主角。原因除了军政腐败外，更重要的是清朝的财政十分枯竭，正规军一年的兵饷二个月都开不出。而且，国库空虚，再拿不出打仗的钱来驱使绿营兵。道光年间，清廷财政收支大体平衡，在四千万两白银左右。但鸦片战争耗银达两千八百万元之多。道光三十年，户部存银仅有区区一百八十七万两。而自该年用兵，至咸丰二年两年间，耗银近两千万两，至咸丰三年十月，已不下四千万两。国库存银不够一个月的兵饷，中外经费，同时告竭，“大局涣散，不堪设想”。在这种情况下，清廷突破了政策界限，让地方大员自筹兵饷，自办团练，也就是给了个最大的战时政策：八仙过海，各显其能。这一体制的转变成了曾国藩一生事业的转机。否则，天下无论如何大乱，也轮不到他这个汉人进士去指挥千军万马。
曾国藩是一个善于抓住机会为我所用的人。他用咸丰帝的“练”字招牌，开始了驰骋疆场建功立业的人生历程。团练是保甲法的遗意，用于防守地方小股盗寇还勉强称职，用于防御强敌就变得无能为力。多少年后，曾国藩的幕僚薛福成在总结其成功时还颇有感触地说：“有得力之劲军以剿强寇，而以团练辅之，为坚壁清野计则可，专恃团练以剿强寇则不可。”他还指出：无论从决策层还是言官们，都认为团练可以成功，因为没有筹饷之难，没有募兵之劳，反而能坐享其成，“其说非不美也”。但作为思想家的薛福成却一针见血地指出：天下事没有实际意义的很少收到成效，而务虚名的多留后患。他举出三个例证：一个是罗绕典，当时在籍“丁忧”，闻诏后即赴长沙与本省巡抚会办军务；另一个是前刑部尚书陈孚思，在南昌与江西巡抚办军务。这也是清廷最早任命的团练大臣。由于二人与巡抚同在城中，又时间非常短，因此虽然没有收到成效，但也不至于互相倾轧。后来者就不同了。像安徽的吕贤基，以工部侍郎在籍办团练，但当皖北危急时，无兵无饷，赤手空拳，最后死难舒城。
薛福成
与这些人相比，曾国藩走出一条新路：打“练”字招牌，将勇改练成军。所以薛福成说：“文正以团练始，不以团练终，且幸其改图之速，所以能成殄寇之奇功，扩勇营之规制也。”（《薛福成选集》，《叙团练大臣》）曾国藩属于帮办团练，咸丰帝在接连发下的办团练谕旨中，一再申明办兵原则，即不能取代正规军：“著各该抚分饬所属，各就地方情形妥筹办理，并出示剀切晓谕，或筑寨浚濠，联村为堡；或严守险隘，密拿奸宄。无事则各安生业，有事则互卫身家。一切经费均归绅耆掌管，不假吏胥之手。所有团练壮丁，亦不得远行征调。”这是镇压白莲教起义故伎的重演，妄图以此遏制太平军扩大兵力，“驱民为寇”，由于团练不脱离生产，不拿政府军饷，不离本土本乡；同时，团练还要接受地方大吏的督促和管辖，因此团练大臣则只是帮同办理。但曾国藩认为这样办团练于事无补。他要另立新军。
曾国藩认为，对付集中而强大的太平军，必须有一支强悍敢战的军队。有了它，太平军返回湖南，可以据城抵抗，守卫桑梓；太平军不来湖南，则可以出省作战，主动进攻。而这支军队的来源，就是自己募勇训练。曾国藩带领湘乡练勇赶到长沙后，就向湖南巡抚张亮基表达了自己的想法。所谓英雄所见略同，张亮基也早有此意，二人遂一拍即合。因此，曾国藩到达省城的第二天，即咸丰二年十月二十二日，发出了早已拟好的奏折。
曾国藩通达政务，对清廷政治的运作过程十分清楚。因此，对于回乡之后的第一份奏折，他写得很委婉，第一层讲了自己遵照皇帝谕旨，前往长沙办团练，是“勉竭愚忠，稍分君父之忧”。第二层讲团练虽然好，但今昔不同，因为嘉庆年间是官给发饷，现在需要乡绅自己出钱，弄不好会走向反面。第三层讲长沙现今空虚，必须练兵才能缓急可恃。最后则抛出自己的练兵计划，他说：
自军兴以来二年有余，时日不为不久，糜饷不为不多，调集大兵不为不众，而往往见贼逃溃，未闻有与之鏖战一场者；往往从后尾追，未闻有与之拦头一战者；其所用兵器，皆以大炮、鸟枪远远轰击，未闻有短兵相接以枪靶与之交锋者。其故何哉？皆由所用之兵未经训练，无胆无艺，故所向退怯也。今欲改弦更张，总宜以练兵为务。臣拟现在训练章程，宜参访前明戚继光、近人傅鼐成法，但求其精，不求其多；但求有济，不求速效。诚能实力操练，于土匪足资剿捕，即于省城防守，亦不无裨益。臣与抚臣熟商，意见相同。
清廷急于平定太平天国，只要对此有利，都开绿灯。曾国藩的练兵计划获准通过，咸丰帝令其“悉心办理，以资防剿”。
曾国藩的政治眼光确实比清政府及同时代的大僚们高出许多。他看到了问题所在，尤其是利弊相权取其轻。他的计划通过后，在给朱孙诒的信中说，“去冬之出，奉命以团练为名，近来不谈此二字，每告人曰乡村宜团不宜练，城厢宜练不宜团。如此立说，明知有日就解散之弊，然解散之弊尚少，若一意操切行之，则新进生事者持札四出，讹索逼勒，无所不至，功无尺寸而弊重邱山，亦良可深虑也。”在给张亮基的信中更直截了当地说：“惟团练终成虚语，毫无实裨，万一土匪窃发，乡里小民仍如鱼听鸣榔，鸟惊虚弦，恇怯四窜，难可遽镇也。”
他还在给手下人的批牍中，将本来并无二致的“团练”一词，“谬加区别”，一分为二。他说：“团练”二字须分看。团，即保甲之法，清查户口，不许容留匪人，一言尽之矣；练，则简兵请师，制械造旗，为费颇多，故乡民不肯举行。本部堂每与各州县道及，宜乡间团而不练，城厢练而不团，庶几有益而易行。
曾国藩是文章高手，更是通达时变的人。他改造“团练”，使他与当时的四五十位团练大臣分道扬镳。而且，由于“改图之速”，所以“立竿见影”。当然，其中艰辛的过程又非三言二语可以道破。