曾国藩让人钦佩的一点就是：在与太平天国军队长时间的对峙中，从未犯下低级错误，很少头脑发热，急不可耐，将自己的命门暴露在敌人手中一这一点，与其说是曾国藩会打仗，倒不如说是他具备战争的素质一每当危险来临的时候，曾国藩总是像一条蛇一样，变得更警觉，更缄默，也更冷峻，虽然他有时候表现得十分焦躁，但他总是全力控制自己的情绪，尽力使自己像冰一样冷静，像竹子一样坚韧。这样的性格，使得他与他的军队始终有一种坚忍不拔的特质；在这样的对手面前，敌人往往会望而却步，经常性地陷人气馁之中，无法产生胜利的自信。
田家镇大捷之后，曾国藩及湘军跌人了战争的谷底。这个时候，太平军在翼王石达开的统率下，进行了第二次西征。曾国藩从田家镇继续挥师东进，踌躇满志地迎战。两军的主力聚集在长江江西段一带，都摆出了决战的架势。曾国藩全力进攻九江未果，只好掉转方向，把主攻目标对准湖口，想凭借水师的优势，拿下湖口，再攻九江。让曾国藩没想到的是，这一次他遭受到了最为惨烈的鄱阳湖之败1855年1月，湘军轻快水师中计陷人鄱阳湖，湖口的太平军见势勇敢杀出，拦腰攻击湘军水师，将它们一分为二一这样，就成了“内江水师”和“外江水师”两部分。然后，太平军水师先火攻湘军之外江水师于湖口江面，大胜，湘军外江水师被迫移至九江水面。2月，太平军水师再次乘夜火攻湘军停泊在鄱阳湖的内江水师，焚烧了湘军大、小战船百余只。正在鄱阳湖的曾国藩情急之下，只得改乘小船仓皇逃命，文卷册牍全部丢失。这一场战斗，是曾国藩自湘军建立之后，遭受的最惨烈、损失也最重的一次。曾国藩慌不择路逃至罗泽南的陆营后，越想越觉得羞愧难当，情急之下，曾国藩掉转马头，想冲至敌营一死了之。在场的罗泽南和刘蓉等一班人死死地拽住马的缰绳，曾国藩才算保住了一条性命。
从春天到夏天的那段时间里，太平军的进攻连连得手，湘军连战连败，形势急转直下：1855年4月，太平军秦日纲、陈玉成部攻下了武昌，湖北巡抚陶恩培情急之下，自杀身亡；8月，湘军悍将塔齐布久攻九江不下，忧愤而死；紧接着，胡林翼又在汉阳附近遭遇败绩……那段日子里，曾国藩困守在鄱阳湖边南昌和南康两府的狭小地区，文报不通，联系中断，即使传来的，也是一些不好的消息。此时，曾国藩的处境已极为危险，连家书和奏折都很难送出去。曾国藩不得不在家书中频繁地使用暗语，甚至，用蜡丸将家书密封起来，派人化装送出。即使如此，曾国藩的信差还是有好几次被太平军俘获，遭到杀身之祸。每天，曾国藩所看到的，都是鄱阳湖中单调的情景：一望无际的沼泽地，一只又一只野鸭钻人水中，或者，几只大胆的麻雀在残缺的芦苇当中飞来飞去，间或草丛中有一些动静，仔细看去，原来是水蛇在苔藓上静悄悄地滑行，然后游离于枯树上发出沙沙的声响……到处都是风声鹤唳，空气紧张得令人窒息，仿佛随时都可以杀声震天、刀光剑影……曾国藩后来在回顾这一段经历时写道：“方其战争之际，炮震肉飞，血瀑石壁，士饥将困，窘若拘囚，群疑众侮，积泪涨江，以夺此一关而不可得！何其苦也。”湖湘大儒王湘绮撰写《湘军志》，阅读当时文件时，朦胧之中好像见到曾国藩的窘状广闻春风之怒号，则寸心欲碎；见贼船之上驶，则绕屋彷徨。”那正是曾国藩当时的真实写照。
到了1856年，对于湘军来说，战局进一步恶化，太平军在江西的军事形势发展到最高峰，控制了十三府中的八府五十四州县。3月，湘军周凤山部在江西樟树镇大败，南部大门洞开，曾国藩不得不离开湖口，亲赴南昌收集溃勇，调集水陆各军全力防守省城。4月，更恶劣的消息不断传来：先是太平军大破朝廷绿营江北大营；然后，一则消息如晴天霹雳般传来，让曾国藩捶胸顿足一一湘军将领罗泽南在武昌身亡！罗泽南算是曾国藩的嫡传弟子了，本来，罗泽南一直在湖北战场，曾国藩江西战败之时，给罗泽南写了一信！让他火速调兵来江西救援。罗泽南收到曾国藩的信后，立即救援江西，走到一半时！因武昌被围，湖北形势急迫！罗泽南又不得不掉转方向回湖北解救。武昌被太平军攻下之后，罗泽南火急火燎，决定不顾一切将武昌城夺回。攻城之时，武昌大雾弥漫，城内太平军敢死队一下子涌出，对攻城部队一顿乱砍乱杀，湘军不明形势，乱作一团。罗泽南左额中弹，三天之后不治而亡。听到罗泽南的死讯，曾国藩泪流满面，这是一个名将啊德高望重，智勇双全。在湘军中，曾国藩最欣赏的，就是罗泽南与彭玉麟了，这两个人无论是人品还是才学，都堪称三湘翘楚。罗泽南还曾是曾国荃的老师。虽然罗泽南一直不太愿意离开湖南作战，但因敬重曾国藩，还是跟曾国藩出了湖南。从湘军组建开始，罗泽南几乎就没有打过一次败仗，即使是在曾国藩“屡败屡战”之际，罗泽南也是无坚不摧，屡战屡克广罗泽南破贼于城陵矶”、“罗泽南率师北渡”、“罗泽南克通城县”、“泽南破贼于贵溪”……只要罗泽南出马，总能转危为安……现在，武昌攻下了，罗泽南却身亡前线，曾国藩不由号啕大哭。
由于长时间在军事上没有起色，曾国藩和湘军遭遇了组建之后的低谷。曾国藩以团练大臣的身份创建湘军，又用了很多乡绅读书人带兵打仗，无论怎么说，都被当时一些官员视为越轨行为。屡屡受挫的情况下，明枪暗箭不断向他袭来。当然，让曾国藩感到最伤脑筋的，还是来自于朝中的压力一一那些遗老遗少们不断向咸丰上奏折说他的坏话，说他如此一个迂腐的书生，哪里懂得打仗呢？只是以打仗之名，沽名钓誉，甚至心怀不轨。
在江西，由于战事的不顺利，湘军在给养上也遭遇到很大麻烦。最初’曾国藩筹饷的基本办法是留下比中央财会制度所能提供的更多的资源，也就是说，曾国藩会同地方大员制定一些新的收人政策，来保证军饷的发放，主要措施包括：一是设置一些不受户部直接控制的新的地方岁人项目，将这些所得截留；二是他的部属一旦就任抚督之后，便将岁人权集中在自己手中，避开户部的干预，将其中的一部分用于湘军的供给；三是卖官鬻爵一在湘军兴办之初，湖南巡抚胳秉章为了支持曾国藩，把这一项权力交给了曾国藩，这样，出售官衔所得成为早期湘军主要经费来源之一。随着湘军人数的增加，到了后来，这三项措施用到了极致，也无法保证军队的供给，湘军欠饷情况非常严重。因为欠饷，军士们士气低落，开小差的，甚至图谋不轨的都有。内部军心不稳，让曾国藩尤为担心。由于曾国藩没有地方大权，他所带的湘军在江西又属外来军队，所以，很多当地官吏都视曾国藩的湘军为额外负担，用得着时，供给还算及时，用不着时，供给就变得拖拖拉拉。打了胜仗没有奖励，如果战败，则备受讥笑，供给更是无从谈起。曾国藩虽然挂了一个兵部侍郎和团练大臣的头衔，但那些大大小小的地方官一直存有戒心，经常阳奉阴违，硬磨软抗。有时甚至还为曾国藩设计陷阱，让他自己往下跳……这些乱七八糟的事情叠加在一起，千头万绪，让曾国藩困顿无比。虽然曾国藩的意志一如既往地坚定，但每每遇到这样的麻烦，也感到束手无策，忍不住长吁短叹，甚至会激起愤怒。
最让曾国藩愤怒的是“彭寿颐事件”和“毕金科事件”了一说起来，话就长了一曾国藩初人江西时，巡抚是湖南人陈启迈，并且，跟曾国藩一样，陈启迈也曾为翰林院官，按说，对于曾国藩，陈启迈应该格外关照。但陈启迈却经常跟曾国藩过不去，动不动就以不给饷要挟。曾国藩为了大局一直忍气吞声。比如，陈启迈不经曾国藩同意，擅自调动湘军，忽东忽西，忽南忽北，朝令夕改；制造摩擦，羁押湘军营官副将周凤山于长江县，刑辱参将李成谋于芷江县……这些，曾国藩都忍了。孰料陈启迈越做越过分，有一次，万载县有一个叫彭寿颐的举人，在乡下办团练，对抗太平军很有成效，打过几次小胜仗。曾国藩很赏识此人，想把这支民间力量纳人湘军。陈启迈听说后，故意以一个“莫须有”的名义，将彭寿颐押进大牢，严刑拷打。曾国藩实在气极了，他很快收集了陈启迈许多罪名，向朝廷参了一本。罪证确凿之下，朝廷将陈启迈革职查办。不料，新上任的巡抚文俊仍跟曾国藩过不去一一事后看来，地方大员跟曾国藩的冲突，主要是利益上的冲突，巡抚是一个省的当家者，不当家，哪知收支的艰难呢！一个当家的跟一个要钱的人产生矛盾！也是最正常不过了一一湘军有一支驻守江西樟树一带！领军的叫毕金科！文俊很长时间不给这支湘军供给。眼看毕金科部弹尽粮绝，快支撑不下去了。文俊让人传话，如果毕金科部能拿下景德镇的话，马上就给他们发饷。在这种情况下，毕金科和他的部属只好以死相拼。在数万守城的太平军面前！毕金科带领一千多人攻城，无异于以卵击石，结果毕金科部全军覆没，毕金科本人也战死。消息传到曾国藩这里，曾国藩恨得咬牙切齿，这明显就是借刀杀人啊数年之后，曾国藩攻克景德镇！特地在毕金科丧命的地方立下石碑一块！亲自撰写碑文！文中！对于毕金科遭受陷阱一事，仍旧忿忿不平。
在江西长达两年多的时间里，曾国藩就是以如此的坚韧！全力地“挺”了下来。一般来说，个性在中等温度下显得暧昧，它藏在可测之镜的下方，只有在紧急时刻！才真正立体地显露峥嵘；而军事上的比拼！跟很多其他东西一样！在最关键的节骨眼上，往往浓缩成为个人性格的比拼一一在那段时间，一种决不放弃的精神支撑着曾国藩和湘军。在这样的对峙中，曾国藩将自己的操守和习性发挥到了极致，一种强大的张力支撑着他，让他如磐石一样顽强，直至转机的到来。
值得一提的是，在最艰难的这一段时间，曾国藩还亲自作了一首《水师得胜歌》，这种带有浓郁文人气的做法，可以看作是曾国藩对全体将士的鞭策，同时也是对自己的激励：
三军听我苦口说，教你水战真秘诀。
第一船上要洁净，全仗神灵保性命。
第二湾船要稀松，时时防火又防风。
第三军器要整齐，船板莫沾半点泥。
第四军中要肃静，大喊大叫须严禁。第七不可抢贼赃，怕他来杀回马枪。
第八水师莫上岸，只许一人当买办。
其余个个要守船，不可半步走河沿。
平时上岸打百板，临阵上岸就要斩。
八条句句值千金，你们牢牢记在心。
我待将官如兄弟，我待兵勇如子侄。
你们随我也久长，人人晓得我心肠。
愿尔将官莫懈怠，愿尔兵勇莫学坏。
未曾算去先算回，未曾算胜先算败。
各人努力各谨慎，自然万事都平顺。
仔细听我《得胜歌》，升官发财笑呵呵。
写完《水师得胜歌》之后，曾国藩又想起了自己的陆军，觉得同样也应该给他们写一首歌。当此之时，曾国藩想到军纪对任何一支军队来说都极为关键，于是把严明纪律的做法写进了歌曲：
三军个个仔细听，行军先要爱百姓。
贼匪害了百姓们，全靠官兵来救人。
百姓被贼吃了苦，全靠官兵来做主。
第一扎营不要懒，莫走人家取门板。
莫拆民房搬砖石，莫踹禾苗坏田产。
莫打民间鸭和鸡，莫借民间锅和碗。
莫派民夫来挖壕，莫到民家去打馆。
筑墙莫拦街前路，砍柴莫砍坟上树。
挑水莫挑有鱼塘，凡事都要让一步。
第二行路要端详，夜夜总要支帐房。
1856年6月以后，岌岌可危的曾国藩迎来了转机，太平军又一次失去了良机一一由于清军绿营的江南大营围攻金陵甚急，太平天国东王杨秀清命石达开领军东援解围，太平军的主力从江西撤回了江苏。湘军的危急局面得到了缓和，曾国藩又有了喘息的机会。这个时候，湖南又一次显示了它的后方基地的作用，在湖南巡抚胳秉璋和左宗棠的指挥下，刘长佑、肖启江统率五千湘军前来增援江西；不久，曾国华又从湖北率一支人马绕道湖南进人江西境内；曾国荃又从老家招募了一支湘军前来支持……身处绝境的曾国藩发自肺腑地感叹：天助我也！这样，曾国藩结束了自己被包围的局面，在江西，与太平军的战斗重新陷人胶着状态。
1856年9月，一个探子几乎狂奔进湘军南昌大营，带来的消息让曾国藩瞠目结舌：金陵内讧！韦昌辉杀掉了杨秀清一先是东王杨秀清逼宫，假托天父下凡降身，要求洪秀全封自己为万岁。洪秀全一气之下，秘密指令北王韦昌辉迅速从江西前线回到金陵，杀掉了东王杨秀清，并且大规模屠杀东王部属！太平军陷人内乱！
一向冷静无比的曾国藩这一回几乎控制不住自己的情绪了，他变得欣喜若狂，像一个濒临死亡的落水者，攀上了一根漂过来的树枝；又像一条本来已经上岸的鱼一样，一个翻身，又潜回了水中。曾国藩用颤抖的声音一个劲地刨根问底，一直问到探子张口结舌无言以对为止。中军大帐一片沸腾，所有湘军将士都幸灾乐祸兴奋无比，然后，都以一种鄙夷的口气谈论着太平天国。太平天国的争权夺利自相残杀，不仅削弱了自己的力量，也让命门暴露在光天化日之下，让人们对于这个政权有了更清楚的认识。湘军看到了希望的曙光，也增添了胜利的信心。不久，接二连三的消息陆续传来：太平天国翼王石达开从湖北前线赶回金陵，阻止韦昌辉的进一步屠杀；韦昌辉与石达开发生了争斗，石达开缒城出走；韦昌辉杀了石达开全家，进一步威逼天王洪秀全；石达开在皖南起兵讨韦，天王又杀了韦昌辉，太平天国另一员大将秦日纲死在纷乱之中；事件平息后，石达开又奉诏回金陵辅政，天王继续不理朝政，天王的兄长安王、福王对石达开猜疑特甚，翼王石达开再一次缒城逃往安庆……
太平天国在经历一番内乱后，大伤元气。更让太平天国感受到打击的，是他们对于洪秀全的个人崇拜遭遇到了沮丧，人们开始怀疑洪秀全的神话了。这个新成立的“政教合一”的组织不得不收敛起锋利的进攻态势！开始坚壁清野固守城池了。战事对于太平天国来说，已转入战略防御阶段。几个月后，形势逆转直下，在苏南战场，清军江南大营死灰复燃，1857年，清军张国梁部攻克镇江，威逼金陵。在江西，石达开回金陵之后，曾国藩开始全面反攻！江西太平军力量几乎全部瓦解，仅存湖口、九江等地，成为孤立的据点。在湖北方面，太平军武昌城的守将韦俊是韦昌辉的亲弟弟，兄长被杀，韦俊斗志完全丧失，弃城而逃后投诚了湘军。胡林翼重新占领了武昌，武昌的失守让战局立即得到改变。1856年底，湘军水陆两路再次顺江东下，连陷黄州、蕲州、大冶、兴国等；1857年1月，又攻下黄梅。在湖北，太平天国丢失了大量地盘，基本丧失了战斗力。紧接着，李续宾统率湘、楚军一万多人，直抵九江城下。很快，九江城被攻陷，太平军一万多人阵亡。
