1854年的春节到了，曾国藩行色匆匆，特意抽出几天时间于十二月二十七日从衡阳回了趟湘乡。他在家中受到妻儿家人的簇拥。在热闹纷杂之中，曾国藩与他的父亲做了一次密谈。他告诉父亲曾麟书，正月底，他将率领湘军正式从湖南出发，与太平军打仗去了。父亲告诫他，现在为朝廷办事很不容易，打仗的事更是急不得，要一步一步地来。又说了许多体贴他的话，并叮嘱他一定要注意爱惜自己的身体。过了大年初二，曾国藩就打点行装赶往衡阳。临行前他又到母亲的坟头去叩了一次头，烧了几炷香。正月初五，曾国藩抵达衡阳。此时湘军水师已基本成型，只是没有经过操练。一周以后，曾国藩接到了军机处廷寄的上谕，命他“着即遵旨，迅速由长江驶往安徽”。此时，曾国藩派出的探卒不断传来他不愿听到的消息，先是庐州失守，江忠源死难，随后又说吴文镕出战黄州堵城大败，曾国藩已没有等待的时间。
曾国藩自衡州起程，顺水而下，至湘潭与待命在此的水军四营会师。师行至长沙时又装载军械几千件，子药二十余万。这支部队已是湘、鄂、皖、赣四省境内规模最大的一支清军。他的手中有一支湖南任何一位文武大臣都不敢轻视的部队，有了与长沙官场进行对话的资本。同时，他马上就要率部与太平军作战，这绝不是儿戏，更不是一件可以斗气的事，他有大量的事情需要与长沙官场中人进行磋商。所以，他的心里虽然仍在咒骂长沙官场中的一些人，但他还是主动与他们协调关系来了。
二月初二，曾国藩在衡山舟次上奏清廷，称自己“才智浅薄，素乏阅历，本不足统此大众。然当此时事艰难，人心涣散之秋，若非广为号召，大振声威，则未与贼遇之先，而士卒已消沮不前矣。是以与抚臣往返函商，竭力经营，图此一举。事之成败，不暇深思，饷之有无，亦不暇熟计，但期稍振人心而作士气，即臣区区效命之微诚也”。此次“东征”，虽师行仓促，但从船舰装备上看还是做了精心准备。计有拖罟一号、快蟹十号、长龙五十号、三板艇一百五十号，皆仿照广东战舰之式，又改造钓钩船一百二十号，雇载辎重船一百余号。所配之炮，共有五百余位。所募之勇，陆路五千余人，水师五千人。陆路各军编列字号，五百人为大营，不满五百者为小营。水路分为十营，前、后、左、右、中为五正营。正营之外，又分五副营。正营旗用纯色，副营旗用镶边。所备之粮台，带米一万二千石，煤一万八千石，盐四万斤，油三万斤，军中应需之器物，应用之工匠，一概携带随行。合以陆路之长夫、随丁，水路之雇船、水手，粮台之员弁、丁役，统计全军约一万七千人。
由于水兵配置不足，加之相当多的水兵是刚刚招募来，甚至连战阵都没有演练。因此，曾国藩又在“沿途合操几次”。但接连失败，不敌太平军，退守长沙。太平天国水军乘胜继进，南渡洞庭湖而深入湘江，列水营于靖港至樟树港一带江面，距长沙仅六十里。
靖港一带，汊港纷歧，水陆两路而旁通湘江西岸之宁乡、益阳、湘潭等县，于是太平军决定一面以水军进逼长沙；一面以陆军取道宁乡攻占湘潭，对长沙采取包围的形势。四月初，曾国藩召集诸将议战。当时，太平军攻占岳州、湘潭后，兵锋正直指省城长沙。曾国藩若进入长沙无疑是自困城中。于是有人提出应先攻靖港，夺取太平军屯驻地；但也有人反对说，“若靖港失败，退还城下，即入死地”，应该攻湘潭。曾国藩见众人你一句，我一语地争论不休，也没了主意。这时水师十营官将，公推彭玉麟决定攻守战略，彭取上策，定先攻湘潭并亲率五营先期出发，约定次日曾国藩率五营殿后。
到了夜晚，情况却有了变化，曾国藩改变了原定部署。这就是长沙乡团来请师，说靖港之敌只有几百人，没有防备，可一战而驱之。团丁只是借大帅旗鼓作威势，吓退敌军，而且已架好浮桥接纳大帅，机不可失。闻者无不踊跃。曾国藩并非想侥幸取胜，但考虑到彭玉麟攻湘潭，这边攻靖港，可取夹击之势，牵引敌军，于是便改攻靖港。
四月二日晨，水急风利，曾国藩率五营水师如离弦之箭，自长沙乘风而发，不到几个时辰即达太平军屯驻的靖港上游二十里之白沙洲，伺机进攻。但到中午时，老天不做美，西南风陡发，加之江水猛涨，水流湍急，湘军师船驶至靖港停留不下来，只得轮番发炮轰击。太平军开炮还击，湘军水师急落船帆，停泊在靖港对岸的铜官渚，一时陷入被动挨打的境地。太平天国水军出小划船二百余只，驶逼敌船。湘军水营开炮轰击，由于炮高船低，不能命中。湘军水师见势不支，纷纷弃船登岸，战船或被焚毁，或遭俘获。曾国藩在白沙洲闻信，急率陆队援救。但陆队见水师失利，心怀疑怯，不肯前进。太平军见状，出队迎击，先是团丁奔逃，湘勇随后，争渡浮桥，又由于浮桥是临时用门扉床板搭成的，人多桥坏，死伤数百人。曾国藩见势不妙，亲执仗剑喝令士兵不退，并立令旗杆上，说：“过旗者斩”。但士兵仍从旗旁相拥而过，于是全军大败。
曾国藩神情沮丧地回到坐船上，越想越难过，越想越灰心，便决定跳水自杀，一死了之。幕僚李元度见曾国藩支开随从，神情有异，便让章寿麟乘小船尾随其后，以备不虞。果然，曾国藩行到靖港对岸的铜官渚时，便一头扎入了水中。章寿麟见状，跃身入水将其救起。此时的曾国藩确实没有活下去的勇气，见章寿麟来救他，还责怪章“何以来此”，章寿麟说：“湘潭我师大败太平军，特向大帅告捷。”实际上章寿麟当时还没有得到湘潭取胜的消息，是临时发挥出来的“告捷”。
曾国藩生前对铜官投水一事，讳莫如深，很多人只风闻其事而不知详情。后来章寿麟因为终其生不过一名知县，便认为曾国藩不肯大力提拔他，故特地写了一本《铜官感旧图》，对曾国藩颇有懑怨之词。这本小册子详细记述了曾国藩跳水自杀一事的始末，此事才公诸天下。
经过靖港一战，湘军水师损失惨重，溃不成军。曾国藩自称：“是日风太顺，水太溜，进战则疾驶如飞，退回则寸步难挽，逮贼舟来逼，炮船牵挽维艰，或纵火自焚，或间以资贼，战舰失去三分之一，炮械失去四分之一。”曾国藩此次出师不利，自杀不成反被部属救回长沙，“为通省官绅所鄙夷”，布政使徐有壬等人拿着写好的参劾稿请巡抚骆秉章上奏清廷，参劾曾国藩。
曾国藩以为大势已去，悲观到了极点，回到长沙后不肯更衣，蓬头跣足，不饮不食。后又跑到妙高峰上起草了遗疏、遗嘱，共计两千多字，然后密令他的八弟曾国葆替他把棺材买好，决计在四月初五之夜再一次自戕。遗折是这样写的：
臣愧愤之至，不特不能肃清下游江面，而且在本省屡次丧师失律，获罪甚重，无以对我君父。谨北向九叩首，恭折阙廷，即于□□日殉难。臣读书有年，窃慕古人忠愤激烈之流。惟才智浅薄，过不自量，知小谋大，力小任重。前年奉命帮办团防，不能在籍守制、恭疏辞谢。臣以墨绖出外莅事，是臣之不孝也。去年奉命援鄂援皖，不自度其才之不堪，不能恭疏辞谢，辄以讨贼自任，以至一出偾事，是臣之不明也。臣受先皇帝知遇之恩，通籍十年，骤跻卿贰。圣主即位，臣因事陈言，常蒙褒纳；间有戆激之语，亦荷优容；寸心感激，思竭涓埃以报万一。何图志有余而力不足，忠愤填胸，而丝毫不能展布。上负圣主重任之意，下负两湖士民水火倒悬之望。臣之父今年六十有五，自臣奉命剿贼，日日以家书勉臣尽心王事，无以身家为念。凡贮备干粮，制造军械，臣父亦亲自经理，今臣曾未出境，自取覆败，尤大负臣父荩忠之责。此数者，皆臣愧恨之端。论臣贻误之事，则一死不足蔽辜；究臣未伸之志，则万古不肯瞑目。
遗片的内容为：
臣自去岁以来，日夜以讨贼为心，曾书檄文一道，刊刻张贴。今事无一成，贻笑天下；而臣之心，虽死不甘。谨将檄文抄呈御览，一以明臣区区之志，一以冀激发士民之心。臣死之后，皇上必于两广湖南择一讨贼之人。陆路之将，则臣去年所保之塔齐布，实为忠勇绝伦，深得士卒心，愿我皇上畀以重任。水路之将，难得统领大员，现在湘潭获胜之褚汝航、夏銮、杨载福等，均可自将一军。臣于二月初间，咨行广西抚臣劳崇光，续召粤勇一千。三月中旬，又在衡州续造大船二十号，约于四、五月可齐。广东水师陈辉龙，亦于近日可到。而臣忽以靖江（港）之败，失去船炮，臣是以愧恨不能自容。伏冀皇上速简贤员，总统水军，而以塔齐布总统陆军。但使灭贼有期，则臣虽死，犹足以少赎罪愆，不胜瞻恋之至。
人在激愤时不可以常理喻之。曾国藩是修过理学的人，但他也徒唤奈何。他的自杀并非“明志自现”，当时如果没有湘潭之胜，肯定是要受重谴的。
当曾国藩初率舟师自衡州经湘潭至长沙时，巡抚骆秉章“不听入城”，曾国藩也怕重蹈旧辙，“耻于依人”，因此，率水军十营散屯湘江两岸，与太平军共饮一水，相距半日可达。
靖港之战败后，布政使徐有壬、按察使陶恩培一同向骆秉章提议参劾曾国藩，并请先解散湘军。骆秉章说：“曾公已自请议处，何烦再劾。你们只把失败归咎到他人头上，难道不想想现在太平军如何盛?如果没有曾公一军，派谁来守城！”因此不同意上折参奏。就在这时，自湘潭传来了塔齐布的捷报，塔齐布击败了石达开的部将林绍璋，勇克湘潭，歼敌无数，湘军终于可以扬眉吐气了。事实证明曾国藩编练湘军的心血并未白费，长江南北总算有了一支可用之兵。初八日，靖港的太平军自动撤退，长沙之围宣告解除。曾国藩在全城军民欢呼雀跃、额手称庆之际，总算打消了死意。湘潭全胜后，由骆秉章、鲍起豹（湖南提督）和曾国藩会奏经过，奏奖立功将士。而同日曾国藩则专给咸丰帝上了一个折子，痛陈自己靖港之败有三谬。在折末有“请旨将臣交部从重治罪”及请“特派大臣总统此军”的两项内容，这引起咸丰帝的不满，朱批为：此奏太不明白。岂已昏瞆耶？汝罪固大，总须听朕处分。岂有自定一责问之罪？殊觉可笑！想汝是时心操如悬旌，漫无定见也！
嬉笑怒骂，无所不至！湘军互有胜负的奏折是骆与曾会奏，而清廷的上谕却十分有趣：将胜利主要归功于骆秉章，败则归咎于曾国藩。抑曾扬骆的用意十分明显。据黎庶昌的《拙尊园丛稿》卷三记载：当曾国藩初练湘军时，一位大学士曾经在廷议时散布说，曾某以在籍绅士，他的湘勇并非圣上所下令招募，而一呼万人，可见他的志向不小啊！意思是湘军是异己力量。一天，咸丰帝特旨召见编修袁芳瑛。袁是湘潭人，因此咸丰帝向他询问湘潭之战的情况。袁芳瑛因此将此战首尾及艰难苦战之情形向咸丰帝叙述一番。咸丰帝“大悦”，当日即授袁芳瑛为松江知府，“而公（指曾国藩）志以明”。这才有了鲍起豹的革职及塔齐布的升用。而按照规定，革职人员无专折奏事权，这就使曾国藩与最高决策者失去沟通的机会，前方万事丛集，难免招来是非，如果失去奏事权，连解释的机会也没有。因此，五月初八，曾国藩奏请皇上开恩，许专折奏事。咸丰帝允准。
曾国藩出师之战，胜败相兼，却受到革职处分，他颇感不公。好在他一力保举的抚标中军参将、满人塔齐布，赏总兵衔巴图鲁名号，超擢署理提督，统辖全省水陆各营。塔齐布当了大帅，还是要听曾国藩指挥。而原任湖南提督鲍起豹因“株守无能”，被咸丰帝革职。
塔齐布两年内超擢大帅，当他从湘潭归来受帅印时，文武官员及百姓“聚观相叹诧，虽（鲍）起豹傔从亦惊喜，以为皇上知人能任，使军气始振”。
按规定，提督列衔排在巡抚前，曾国藩此时已是革职之员，衔名又在巡抚之后，但塔齐布对曾国藩恭谨有加，自比于列将。此时，徐有壬等也前往曾国藩处祝贺，并表示歉疚之意。不久，清廷诏令曾国藩择司道大员随营主持筹饷事宜，徐有壬心中惴惴不安，惟恐被曾国藩选中。曾国藩带着讥笑的口吻对亲近他的人说：“这些人怯懦无能，只能坏我的大事。即使请求同行，我也要阻止，况且此辈根本不愿意。”
曾国藩对清廷的赏罚不公在咸丰四年四月二十日与诸弟书中有所透露：
惟近日公道不明，外间悠悠之口，亦有好造谣言讥澄弟之短者。而澄弟见我诸事不顺，为人欺侮，愈加愤激，肝火上炎，不免时时恼怒，盛气向人。人但见澄弟之盛气，而不知实有激之逼之使然者也。人以盛气凌物诮澄，澄以盛气伤肝致病。余恐其因抑郁而成内伤，又恐其因气盛而招怨声。故澄归之后，即听其在家养息，不催其仍来营中。王璞山（王珍）之骄蹇致败，贻误大局，凡有识者皆知之。昨在家招数百乡勇，在石潭杀残贼三十人，遂报假胜仗，言杀贼数百人，余深恶之。余与骆秉章、鲍起豹三人会衔具奏一折，系左季高（宗棠）所作，余先本将折稿看过，后渠又添出几段，竟将璞山之假胜仗添入。发折后，始送稿来画，已无可如何，只得隐忍画之。朱石樵在岳州战败逃回，在宁乡战败，逃奔数次，昨到省城，仍令其署宝庆府事，已于十八日去上任矣。是非之颠倒如此，余在省日日恼郁，诸事皆不顺手，只得委曲徐图。昨当面将朱石樵责备，渠亦无辞以对，然官场中多不以我为然。将来事无一成，孤负皇上委任之意，惟有自愧自恨而已，岂能怨人乎？怨人又岂有益乎？大抵世之乱也，必先由于是非不明、白黑不分。诸弟必欲一一强为区别，则愈求分明，愈致混淆，必将呕气到底。愿诸弟学为和平，学为糊涂。璞山之事，从今以后不特不可出诸口，而且不可存诸心。
澄弟，即是曾国潢，族中大排行为第四，比长兄小九岁。当时在长沙协助长兄训练湘军，大为长兄所受不公鸣不平。