在同僚交往中，曾国藩最痛恨互相拆台的做法，他认为这无异于“两虎相搏，胜者也哀”，因此主张“英雄援手”。同时，他通过观古往名臣之得失，还总结出一种方法，就是我要结交的人不愿意和我结交，我就要硬同他交往，所谓“善不吾与，吾强与之附”。
骆秉章是湖南巡抚，权势很大，当曾国藩编练湘军和率军出征的时候，几次薄待曾国藩。面对自己得罪不起的人，曾国藩多次屈求。
骆秉章对曾国藩的冷酷，从曾国藩在长沙向他求情一事即可看出。
咸丰三年（1853）九月，驻扎在长沙的绿营兵与曾国藩的部下发生严重斗殴，绿营兵鸣号列队，准备大举攻击曾国藩的勇营部队。曾国藩闻讯后，非常生气，他想诛杀一两个绿营兵，压压他们的气焰，便给绿营提督鲍起豹发去一份咨文，指名索捕闹事的绿营兵。这一下可惹怒了鲍提督。他也不是善者，来了个火上浇油，故意大造声势，公开将肇事者捆送至曾国藩的公馆，看他这个团练大臣怎么办。绿营兵见此情景，一个个气势汹汹，冲进曾的公馆，击伤他的卫士好几人，还差点将曾国藩本人打死。
曾国藩狼狈不堪，只得向巡抚骆秉章，求救。本来就驻在隔壁的骆秉章其实早就知道曾公馆所发生的事情，当时他也正对曾国藩在办团练过程中表现出来的非官非绅却又自以为是十分不满，想借此教训一下曾国藩，所以一直在旁边看热闹。直到曾国藩来向他求情，他才出面，但却并不安慰曾国藩，反而给肇事者松了绑，向他们赔不是，让绿营兵各自回到自己的驻地去。事后，骆秉章也不对此事进行查究，准备不了了之。可长沙城内，却浮言四起，说由于曾国藩干预官府的兵权，才闹出事来，他是咎由自取。
后来，曾国藩的部下王錱分离的时候，骆秉章却乘机拉拢王錱，这简直是拆台了。但曾国藩逆来顺受，不与计较，并且一遇困难，还去屈求。
曾国藩从衡州率军出征后，到达长沙，便因湘军粮饷和作战物资供应问题与骆秉章商量，请求湖南当局的支持。这次，因为曾国藩提出要将湖南作为湘军的大本营，骆秉章认为支持湘军就是保卫湖南地方，因而也就表示同意了。
1854年曾国藩又为胡林翼事去求骆秉章。
胡林翼与曾国藩很早就有过密切的交往。当胡的父亲客死北京时，曾国藩曾以湖南同乡的身份前往吊唁，并亲送灵柩出城。胡林翼则将陶澍的集子《陶文毅公全集》回赠曾国藩，以表示谢意。
胡林翼在守孝结束之后，想出来继续做官，便于1846年由几个学生凑钱捐了个内阁中书，接着又捐升知府，分发贵州补用。按照清政府当时的规定，捐银得官，是可以选择任职地方的，朋友见他要到贵州贫瘠地方去，感到有些不解。他解释道：“天下官场，只有贵州州县官吏奉上以礼不以货。我此次得以复出，全是靠友人资助，现在得贫瘠之官缺，正可以保清白之风，而不致有负友人之希望。”他的这种做官态度，与曾国藩所提倡的“文官不爱财，武官不怕死”的精神，是基本相同的。
胡林翼在贵州任知府和道员先后八年，因为镇压贵州东南地区的农民起义，由此“声誉鹊起”，知名于政界。对绿营兵的腐败他同样有很透彻的认识。他曾明确指出，绿营兵确已腐败不堪，决不能指望它在镇压农民起义之中发挥出战斗力。清廷要想挽回与太平军作战的颓势，就必须改弦更张，就应该大力编练勇营。他的这一认识，与曾国藩的想法也是完全一致的。
1854年初，胡林翼在贵东南道员任内，经湖广总督吴文镕奏调，率数百练勇离开贵州，经湖南赶赴湖北，参与对太平军的作战。他日夜兼程，于2月上旬赶到湖北金口，突闻吴文镕已于黄州自杀身亡，且太平军还在沿长江西进。他赶紧率勇西退湖南岳阳，一时失去了依靠，无所归从。
曾国藩得知此情，便又一次去找骆秉章，要他上奏清廷，准许将胡林翼留在湖南。他非常欣赏胡林翼的才干，认为他的到来，在一定程度上弥补了因江忠源之死所造成的损失。因此，他自己也亲自上奏，在咸丰皇帝的面前大力表扬胡林翼，说胡“胆识过人，才大心细，是军中万不可少之员”。很快，咸丰批复同意胡林翼随同曾国藩一起行动。
胡林翼与曾国藩走到了一起。尽管此时谁也不能完全理解这种结合的真正意义，谁也不会知道胡林翼日后会成为湘军的第二号人物，但曾国藩的内心的确是高兴的。可以说，这是他下令湘军正式与太平军作战前的一个重要收获。
这不能不说是曾国藩“善不吾与，吾强与之附”的同僚交往之道起了重要作用。
后来，曾国藩和骆秉章还在军事上有所配合。不过，但当他岳阳城下失利第二次退回长沙时，骆秉章又一次给他泼了冷水。长沙城老百姓先是看见湘军出征，可没过几天却又打道回府，不知情的人便感到十分的惊异。不久，太平军的到来使他们明白了这其中的真情，一个个便赶紧逃难。湖南省的官员们则对湘军大失所望。有人骂曾国藩无用，有人主张乘机解散湘军，也有人认为长沙城的防卫还得依靠湘军。骆秉璋听着众人的议论，知道此时不宜参奏曾国藩，也不同意解散湘军，但他对曾国藩的态度也极为冷淡。曾国藩住在湘军的水师船上，骆秉章拜客到邻船，近在咫尺都不过来跟他打招呼。直到后来，湘军取得湘潭大捷，骆秉章才开始对曾国藩变得热情起来。
所谓人心都是肉长的，交人必先交心，从“心”而发，方能以情动人，以情博得人心。
蒋介石一生服膺曾国藩，佩服得五体投地。他尤其钦服曾国藩的“自立立人，自达达人”之道。他在《曾胡治兵语录白话解》中说：满清王朝之所以能够中兴，太平天国之所以归于失败，其原因并不是人才消长的缘故，而实际上是道德事业兴盛衰替的证明。洪秀全、杨秀清、石达开、李秀成、陈玉成、韦昌辉等人的才略，难道比不上曾国藩、胡林翼、左宗棠、李鸿章等满清大臣吗？然而曾国藩标榜传统的思想品德，力体躬行，以为一世的先导，其结果竟然能够交易风俗，挽回颓靡的风气。我暂且不去讨论曾国藩等人在当时应付时变的手段，思想的新旧，事业成败过程如何，而他们的苦心和毅力，自己要立身，也要扶持使别人也能自立，自己通达，也要使别人通达之道，就已经足以成为我们这些人的老师了。曾国藩的“自立立人，自达达人”，源于他的“仁”字。曾国藩认为，在军中的处世之道与社会其他方面的处世之道一样，互相之间应讲究仁礼。为此曾国藩在选将选兵时，特别注意选那些易于受仁礼感召的质朴之人。
在初募湘军时，曾国藩每天坐在招募处，看到黑脚杆而又不好说话的乡下人，便连声说“好、好”，表示可以选上；如果看到近似城市的人，或好说话的人，则“唔、唔”两下，表示不可选上。因此湘军士兵，几乎无一不是黑脚杆的农民。这些朴实的农民，既能吃苦耐劳，又能忠勇，一上战场，则父死子代，兄仆弟继，义无反顾。有兵如此，怎么会不打胜仗呢？
当然，最重要的还是精神训练。曾国藩说：
“恐民心一去，不可挽回，誓欲练成一旅，秋毫无犯，以挽民心而塞民口，每逢三八操演，集诸勇而教之，反复开说至千百语，但令其无扰百姓。自今年4月以后，间令塔公传唤营官，一同操演，亦不过令弁委前来，听我教语。每次与诸弁兵讲说至一时数刻之久，虽不敢云说法点顽石之头，亦诚欲以苦口滴杜鹃之血。练者其名，训者其实，听者甚逸，讲者甚劳。今各弁固在，具有天良，可复按而一一询也。国藩之为此，盖欲感动一二，冀其不扰百姓，以雪兵勇不如贼匪之耻。而稍变武弁漫无纪律之态。”
苦口滴杜鹃之血，以这种精神训练训导队伍的人，慢慢就成为有主义的军队了。
至于选择营官，曾国藩非常注意他的精神品行。他说：“欲练乡勇万人，概求吾党质直晓军事之君子将之，以忠义之气为主，而辅之以训练之勤，相激相扬，而后可以言战也。”
早年曾国藩研究程朱理学，对仁义礼智信心领神会，心悦诚服，经过多年的带兵实践，他发现这套理论对处理官兵关系极为有用。
什么是“仁”？这就是曾国藩常说的“欲立立人，欲达达人”，也就是说自己想建功立业，则先让别人建功立业，自己想兴旺发达，则先让别人兴旺发达。将帅对待官兵如同父兄对待子弟一样，总是希望他们兴旺发达，总是希望他们建功立业。人同此心，心存此理，那么官兵就会对你感恩戴德。
什么是“礼”？这就是所谓无论人多人少，无论官大官小都一视同仁，不敢怠慢。身处高位，不骄傲自大，盛气凌人。再加上衣冠整齐，举止严肃，自然令人望而生畏，威而不猛。持之以敬，临之以庄，无形无声之际，总有有一种凛然不可侵犯的正气。做到了这样，部属就会感到你的威严了。
如果能做到这两条，那就会所向披靡，无往而不胜，还有什么治不好的军队呢？
曾国藩说，我们带兵就像父兄带子弟一般，没有银钱，不能提拔，都是小事一桩。千万不能使他们因骚扰百姓而坏了品行，因嫖娼、赌博、吸大烟而坏了身体。如果他们个个学好，人人成材，他们自己会感恩戴德，他们的父母也会感激不尽了。
曾国藩带兵，简直是以父兄教导子弟一般，诚信感孚，恩礼有加，湘军士兵，自然也视长官如父兄，充分做到了上下一心，同仇敌忾的精神。王定安在《湘军记》中记述说：
于是陇亩愚氓，人人乐从军。闻招募则争出效命，无复绿营征调离别可怜之色。其后湘军战功遍天下，从戎者日益众。或募千人，则万人应之，募万人，则数万人应之。其随营待补客死他乡者，不可胜数，而湘人士迄无怨心。所谓有勇知方耶。
这支部队士气民心较为高旺，正是曾国藩以儒家的精神教育灌输后所发生的效果。其他各省，虽然也办团练，也募乡兵，但因他们并不知道注重教育与训练，而长官与士兵之间又缺乏亲爱精诚的感情基础，所以终归仍是无用的赘疣而已。明了这一点之后，当可知湘军之成功，应归于曾国藩仁礼待兵“精诚感召”的军中处世之道。
一般而言，当局面狭小时，如果核心人物另立门户会对事业发展造成很大影响。曾国藩虽说心胸开阔，但也并不是一开始就如此。为了维护他首创的湘军的内部完整统一，对另立门户者他一开始坚决抵制。后来台面做大了，天下人才趋之若鹜，他倒对“另谋发展”者予以支持了。
曾国藩事业之初，每遇挫折便寻死寻活，幸亏李元度形影不离，善加护驾，方使之化险为夷。兵败靖港时，清廷革了曾国藩的职，李元度冒死上奏，为曾大帅申请了“专奏权”，从此接通了同最高层的联系，日子才好过起来。为此，曾国藩曾发誓“三不忘”。
可是，曾、李之间的“世代通好”还是没有经得起考验。起因是李元度想自立门户，“分裂”湘军。
1858年1月，李元度因功升任道员。一个月后，湖北巡抚胡林翼上《密陈浙江紧要军情请调员防剿疏》，李元度旋即奉命带兵入浙，这是湘系势力渗透入浙的开始。曾国藩东山再起后，率领江西湘军迫击翼王石达开入浙，还保荐李元度得到了按察使衔，赏巴图鲁勇号。1860年4月，清朝命李元度赴浙江供巡抚王有龄差遣委用，6月，王有龄授予他浙江温处道道员。李元度以所部平江勇三千交浙江提督饶廷选统率，自己回湖南另行招募平江勇。当时，太平军占有苏南，王有龄所部大半是江南大营的残兵败将，扰民有余，可又作战无能。王有龄企图分化湘军，便欲把李元度从湘军中拉过来，作为保护浙江的军事力量。王的拉拢工作已初见成效，但李元度浑然不觉。不过，曾国藩已经敏感到了这个问题，为此，他责怪李元度，他不能容忍湘军被分化，也不能容忍湘军将领被分裂出去维护其政敌何桂清集团的地盘。至此，曾国藩与王有龄在旧恨之外，又结下了新仇。而曾国藩与王有龄、李元度之间的矛盾也开始激化了。
1860年5月，曾国藩继何桂清总督两江后，6月，从安徽宿松进驻皖南祁门，立即奏调李元度为皖南道道员，这既是对王有龄来一个釜底抽薪，也含有将李重收归曾门的意思。但李元度率新募的平江勇三千抵达祁门不到十日，曾国藩竟命他率领平江勇进驻湘军与太平军争夺的战略要地徽州。8月19日，太平军侍王李世贤进攻绩溪的丛山关，李元度分兵防御被击败。不久，太平军进攻徽州，又大败李元度。25日，侍王李世贤攻克徽州，李元度逃奔至曾国藩祁门大营。曾国藩对此十分气愤，要上疏弹劾，幸有李鸿章、陈鼐两位幕僚力谏，曾国藩才删改了措辞中严厉的话，但弹章还是上奏了。曾国藩在上疏中说：李元度“甫经到徽，竟不能支持数日以待援师，实堪痛惜”。正因为这一纸上疏，李元度被革职了。王有龄乘虚而入，派人跟踪李元度，又百般笼络，企图再次把李元度拉过去。
胡林翼是个有勇略的人，对王有龄的用意，他看得很清楚。他以好友的姿态致书李元度说：“近来知你有愤激不满之言。老兄以仓卒召募之师，像个跛子一样连走路都困难，就疾入徽城，如果说锐于行义则可，谓精于治军则不可。涤生（曾国藩号涤生）参劾你，太过分……但你也不是没有过错。林翼之敬兄，说你爱才如命，嫉恶如仇，其诚心可以共谅，而知人之明，则尚未敢以相许，要不至于随人指嗾因失所亲。乃近闻右军欲勾致阁下，遣人由祁门而江西，如苏秦以舍人随侍张仪故事，其用计亦巧，而兄不加以拒绝，何耶？岂未免动心耶！我们这些文人任事，与正人同死，死亦得附于正气之列，是为正命。如果投错了人，而得不死，亦为知占之玷，况又不能死耶！处世无远虑，必陷危机，一朝失足，则将像蚊蝇那样同臭，而为正直的人所讥评。右军之权诈，不可与同事，兄岂不知，而欲依附以自见？则吾窃为阁下不取也。兄之吏才与文思过人，弟与希庵兄均扫榻以俟高轩之至。如可相助，为理当，亦涤帅所心许，何尝不欲酬复前劳……弟以与兄有素日之雅，故敢尽情倾吐之。”
1861年1月，王有龄上奏请调李元度援浙，“诏如所请”。李元度于是返回湖南招募乡勇，取名“安越军”，并在湘北、鄂南、江西等地抗拒太平军。胡林翼为了争取李元度，团结湘系，也上奏表彰李元度功绩，曾国藩奉命赏还按察使衔，加布政使衔，但李元度没有改变“安越军”的名称。9月，率领“安越军”到浙、赣边境。这时，李秀成已经开始进攻杭州，左宗棠奉命节制援浙诸军，李元度归左宗棠节制指挥。同年11月，太平军攻克杭州。1861年12月23日，清朝命左宗棠为浙江巡抚。1862年1月，左宗棠以李元度为盐运使，他兼署布政使，2月，又升任按察使。
对李元度打出“安越军”的旗帜，继续分裂湘系，曾国藩越想越生气，越忌恨，便于2月22日，再次参劾李元度，清廷遂将李元度革职遣戍。李元度是曾国藩的患难之交，可他几次弹劾李元度，对此，他本人也时常感到内疚，觉得平生不负人，只对李有愧疚感。他对曾国荃等说：“次青之事，弟所进箴规，极是极是。吾过矣！吾过矣……余生平于朋友中，负人甚少，惟负次青实甚。两弟为我设法，有可挽回之处，余不惮改过也”；“惟与我甘共患难之人，无论生死，皆有令名，次青之名由我而败，不能挽回，兹其所以耿耿耳”，等等。在给友人的书信中，曾国藩也深表愧疚李元度：“次青之事，鄙人负疚最深。在军十年，于患难之交，处此独薄”；“往昔患难相从，为日最久者，惟阁下与次青情谊最挚。今不才幸了初愿，膺此殊荣，所负者惟愧对次青”。字里行间，尽情流露出曾国藩对李元度这位忘年至交的愧对之情。
其实，曾国藩的这种愧悔是对个人感情而言，对于他所成就事业来说，场面狭小了，他要不允许属下自立门户的。
曾国藩把人心诚伪作为人的基本品格来认识，认为只有诚实的人才能和他交往，才能有信誉可言。
鸿蒙之初，何以为先？悠悠大地，何以为大？知识无涯，认知有涯，无垠的宇宙中，各个星体的生成、运行自有其独自的轨迹，古人对神秘的世界充满敬畏，仿佛世上的一切都是上天事先安排好的，一切都是命中注定，老庄哲学中更有“不敢为天下先”的思想。曾国藩在承接理学衣钵的同时，对中国古代哲学的其他流派也深有研习，明白盈虚转换的道理，凡事不求十全十美，只求有平稳的退路。
曾国藩自从拉起一支由团练改编的军队——湘军时，便冲在镇压太平军的最前沿，他一心维护皇朝和建立功业，却不料战事棘手，屡屡受挫，几次身陷不复之境。在咸丰七年（1857）回家守孝之时，他深深反省了自己率军出征以来的教训。当他次年再次出山时，变得十分注意自我克制，注重调整自己和清廷之间的关系。他将古时的周公视为自己的楷模，时常提醒自己以历史上霍光等人专横跋扈不得善终为戒。在出任两江总督节制四省军务以后，对位高权重显得喜不胜忧，他在日记中披露心迹：
古之得虚名而值时艰者，往往不克保其终，思此不胜大惧。将具奏折，辞谢大权，不敢节制四省，恐蹈覆乘之咎处也。
天京合围之后，战事于湘军十分有利，然而朝廷上下也议论纷起，尤其是在沈葆桢争夺江西厘金问题上，朝廷有意偏袒沈而压抑他，使他认识到作为清朝二百年来权势最大的汉人，一举一动都将引来众人的瞩目与猜忌。他给李鸿章写信说道：
长江三千里，几无一段不张鄙人之旗帜，外间疑敝处兵权过重，利权过大，盖谓四省厘金络绎输送，各处兵将一呼百诺，其相疑良非无因。
曾国荃，其秉性刚毅，精力充沛，有勇有谋，敢作敢为，好为人先，军中人称“九帅”。围攻天京之战中，曾国荃不愿接受其兄的安排让功于李鸿章，执意要抢在淮军之前攻陷天京，以取得首功。曾国藩苦口婆心地劝告他：
汝虽才能，亦须让一半与天……来信“乱世功名之际尤为难处”十字，实获我心。吾兄弟常存此兢兢业业之心，将来还有机缘，即使抽身引退，庶几善始善终，免蹈大戾乎？
当天京陷落的消息传至安庆后，他曾“绕室彷徨，彻夜思考”，预测可能出现的情况并做出相应的应对预案。幸而曾国藩事先做了种种安排，才在大功之后虽遭朝廷杀威，却也免遭不测。
曾国藩对躬行践履最为执著，他提出的“躬自入局”就是不当旁观者，不当看客！而是要从自己做起，虚心实做，几乎能成功。
曾国藩兄弟对围攻天京，意见不一，湘军内外也为此争执。扩而大之，清廷对此也有不同策略。
但最终曾国藩同意了曾国荃的攻坚战，终于攻下天京。这也是曾国藩“执理甚明”的典型事例。取得安庆战役的胜利以后，曾国藩雄心勃勃，他制定了一个新的战略构想，即三路进兵天京，对太平天国进行最后一击。由安庆顺江而下是主攻方向，集中了湘军的精锐部队，由曾国荃、曾贞干、鲍超、张运兰、多隆阿、杨载福、彭玉麟率所部沿大江南北全面推进，攻取天京。左宗棠由江西进兵浙江；李鸿章招募淮军，进兵上海，转而进兵苏南。两者用以牵制李秀成支援天京，并切断天京物资供给线。
正当曾国藩踌躇满志，分兵五路东进，步步为营，包围攻取天京城时，他们的内部合作却出了问题，问题的症结出在他四弟曾国荃的身上。
曾国荃，字沅浦，号叔纯，曾氏习惯按男女一同排行，他就是行九，故人称“曾九”，曾国藩也惯称他为九弟。
曾国荃生性十分骄横，史书记载他“少负奇气，倜傥不群”。十六岁时曾到京师随曾国藩读经，但他对圣贤经书却不感兴趣，没过多久便甩手还乡。他的资质倒也聪敏，曾国藩也认为他们兄弟中真正有出息的数着老九了。回乡不久发府试第一名入县学，举为优贡。
咸丰六年（1856），曾国藩坐困江西南昌，他弃文就武，在家乡募得三千湘勇，自率赴江西，途中攻陷安福，进攻吉安，连战皆捷，被朝廷加赐同知官衔。他的军队称“吉”字营，成为湘军嫡系。后一直在江西同太平军作战，侥幸的是，他领兵作战，多能取胜，湘军在江西的几次著名战役，如吉安战役、景德镇战役等，他的部队皆是作战主力。多次得手，他也官升为知府、道员。
他被胡林翼看中，称他为“罕见之将才”，乃调为湖北军。后所部增为万余人，参加安庆战役，是围城的主力部队。他指挥军队，深挖长壕两道，内外作战，在其他各路军的配合下，终将安庆攻破，为清廷立下汗马功劳，官升江苏布政使。
安庆战役后，他广募军队，准备东下直捣天京城，所部达二三万人。
曾国荃性格暴烈、贪婪跋扈、排斥异己，其他将领多与之不和，湘军内的鲍超、杨载福、彭玉麟等多对他有很深的成见。他所统率的“吉”字营十分凶恶，每陷一城皆尽情屠杀，财物、子女尽数掠取，焚杀成性。
安庆战役中，曾国荃与多隆阿产生了极大的矛盾。一是太湖战役时，多隆阿负责守太湖，陈玉成大军前来进攻，在情况紧急之时，曾国荃不来援救，幸赖鲍超苦战，胡林翼派兵援救，才取得该战的胜利。二是攻打安庆城，多隆阿独当桐城一面，挡住陈玉成的大军增援，连番苦战，保证了围城部队的战斗进行。然而，战后曾国荃却列为首功，赏赐丰厚，多隆阿出力极大，损失也很重，却未得封赏。因此，他对曾氏兄弟，尤其对曾国荃极为不满。据说封赏之后未见他的赏赐，气得大病了一场。下了“三面并举，五路进军”的战斗命令后，曾国荃（曾国葆咸丰三年因战败被裁回乡，后来改名曾贞干）率军急进，连下无为、巢县、含山、和州、太平府、东梁山、金柱关、芜湖、江宁镇、板桥、秣陵关、大胜关等地，直逼天京城，同治元年（1862年）五月在天京城门外的雨花台扎下营寨。
曾国荃和他的心腹大将李臣典、萧孚泗、刘连捷、彭毓鐍、朱洪章等在太平天国的叛将韦俊的带领下，察看了这座江南名城。他看到天京城高池深，城围辽远，以他的两万人马想要攻取这座名城，简直是白日做梦。他虽攻至城下，却不敢轻举妄动，更深怕城内的太平军和苏州的李秀成一起出动，将他们歼灭掉。所以，他一面督促湘军在雨花台一带修筑工事，做长期战争准备；一面又派人投书，催促各路人马到来。
然而，曾国荃等了多日，也不见别路人马到来。先是李续宜的北路军由镇江刚要出师，忽接父丧凶信，匆匆回家奔丧，其部将唐训方远在皖北，闻讯南援，结果被太平军阻于寿州。鲍超由宁国北进，遇太平军杨辅清等部，展开血战，也难达天京。这时，可援之军只有多隆阿一路，曾国藩接到雨花台寄来的加急求救文书，命多隆阿迅速南下。多接信后，开始还有军事行动：攻陷庐州，准备南下，但突然按兵不动，拒赴合军天京之约。曾国藩再三恳求赴援，也多不为所动。这时，有一股四川农民起义军入陕，多隆阿部将雷正绾已入陕阻击。多隆阿与湖广总督官文密约，再奏令多隆阿本人率队入陕，皇帝居然准奏。多隆阿与官文皆以不赴天京之援，暗自高兴，因为久与曾氏兄弟不和的官文也不愿湘军得到成功。
多隆阿率军西去，曾国藩万分惊慌，派人飞马送信给官文，让他追回多隆阿，仍让多赴南京之援。他在信中说：“闻入奏之贼人数不满三千”，有雷正绾一军足敌，而“江南贼数之多比秦何止百倍”，仍请将去之不远的多隆阿赴援，却置曾氏兄弟的求援于不问，使曾国荃的雨花台之师成了孤军。
曾国荃两万余人在南京城下进退两难，时刻准备遭受太平军的打击。但是，在别人眼里，却认为曾氏为了独占破城之功，不肯与他部合作。还有人说，多隆阿西走便是曾氏兄弟所排挤的结果。
正在曾氏兄弟两头为难之时，李秀成受天王之严命，率领二十万大军自苏州进抵天京城下，很快对雨花台的湘军发动了进攻。曾国藩闻李秀成率兵回援天京，知道曾国荃等难逃灭顶之灾，吓得连日吃不下饭，睡不着觉。于是，他写信给守孝的李续宜说：“鄙人心已用烂，胆已惊碎”，求他“夺情”返回战场，助自己一臂之力，救出雨花台下的湘军将士。同时派人去上海向李鸿章求援，要求把曾国荃原来的部队由程学启率带援救曾国荃。李续宜染病在家，无法出山。李鸿章仅派吴长庆、张树声所部少量新兵前往，曾国藩干脆不再向他要援兵了，因为这些许新兵起不了救援之作用。
救兵求不到，李秀成的二十万大军已包围了曾国荃二万多人马。曾国荃想逃也逃不了，只得咬紧牙根，依靠修好的壕沟、堡垒，与李秀成展开了生死搏斗。
然而，出人预料的是，李秀成大军自1862年10月13日开始攻雨花台湘军营垒，至11月26日止，前后共计围攻46天，竟然没能攻入曾国荃修筑的壕垒，而自行撤围离去，曾国荃竟然侥幸逃过了灭顶之灾。
因祸得福，曾国荃经此一战，声名更加大振，使他更加踌躇满志，感到自豪。许多参加此战的湘军军官也都因此而取得莫大的政治资本。这次战役与太平天国的生死存亡关系很大，李秀成未打破雨花台的湘军大营，在退走时又遭到湘军的袭击，伤亡十几万人，从此之后，太平军再也无力组织对围城湘军的攻击了，直至天京被曾国荃等攻陷为止。
为什么雨花台46天大战，李秀成二十余万大军竟未能攻破曾国荃的二万多人的营垒？这是近代军事史上的一个谜。后来，曾国荃对王闿运写的《湘军志》大为恼火，毁掉该书之版，还欲置王闿运于死地的事，在于这本书披露了谜底。王闿运写这次战役时很纳闷，究竟为什么二十万大军战不胜二万多又饥、又疲、又遭瘟疫的湘军？经过认真研究，王闿运才发现那次战役，一是李秀成无心决战，迫于洪秀全之严命才勉强应付。作战时仅“恃炮声相震骇”，根本就没有向堡垒内的湘军冲锋。因为李秀成等人既不愿战，也不敢战。四十六天的仗，表面上炮声大作，“多发西夷大炮相烧击”，“连十昼夜不休”，实质上简直像过年放鞭炮，并未杀伤堡垒和壕沟里的湘军，才使曾国荃不仅侥幸存活了下来，还捞到了政治资本。
当李秀成亲率大军试图解除天京之围时，曾国藩深感自己在曾国荃冒进雨花台时，没有用强硬态度命令他们撤军，是一个失误。如何体面地挽回失误所造成的损失，是曾国藩反复考虑的一个问题。当李秀成在九月下旬，进攻态势逐渐变缓时，曾国藩便预料他有退兵的图谋。曾国藩发现，虽然由苏、杭至天京水陆均有，但李秀成的粮食运输却十分艰难，而天京城内又不能对他们进行接济。因此曾国藩料定李秀成“知必溃而之他”，“贼数闻以十万计，每日需食米千石，若无大舟搬运，何能持久？吾在徽用兵二载，深知陆路运米之难，即在金陵城内运至谷里村一带，数十里之内，月运三万石，经理亦极不易，况城贼之米，未必肯多搬出耶”。李秀成得不到天京城内的呼应，这早已被曾国藩所察觉，“城中群酋受封，至九十余王之多，各争雄长，苦乐不均，败不相救”。曾国藩认为，运用坚守战壕的战术，必能拖垮李秀成的攻势，“弟军若出壕打仗，恐正中贼之计，贼所求之而不得者。似以坚守不出为最妥，不必出而撄贼凶锋……我有日增之象，贼处已竭之势，则我操胜算矣”。一旦李秀成撤军，也不能预示着湘军胜利在望，在经历了疾疫与恶战后，进驻天京城下的湘军力量已有大量的减耗，重新布置进攻兵力，是极为必要的。在曾国藩写给曾国荃的信中，提出一个以追击李秀成军队为名，全面撤出雨花台，重新确定进攻方略的计划：
此大局所关，一年二年之军势，不可不早为定计。若长扎雨花台，以二三万劲旅屯宿该处，援贼不来，则终岁清闲，全无一事；援贼再来，则归路全断，一蚁溃堤。此等最险之着，只可一试再试，岂可屡屡试之，以为兵家要诀乎？望弟早早定计。贼不解围，则忍心坚守；贼若解围，则以追为退，不着痕迹。行兵最机局生活，弟在吉安、安庆，机局已不甚活，至金陵则更呆矣。
尽管曾国藩苦口婆心，权衡利弊，但曾国荃就是不为所动，坚决不从天京城下撤兵。在此后的一个月里，曾国藩不断劝说其撤兵，甚至搬出了“活兵”、“轻兵”、“呆兵”、“重兵”来说服其撤兵。
弟在军已久，阅事颇多，以后宜用活兵，少用呆兵，多用轻兵，少用重兵。进退开合，变化不测，活兵也；屯宿一处，师老人顽，呆兵也；多用大炮辎重，文员太众。车船难齐，重兵也；器械轻灵，马驮辎重，不用车船轿夫，飙驰电击，轻兵也。弟军积习已深，今欲全改为活兵、轻兵，势必不能，姑且改为半活半呆、半轻半重，亦有更战互体之时。望弟力变大计，以金陵、金柱为呆兵、重兵，而以进剿东坝、二溧为活兵、轻兵，庶有济乎！
曾国荃依然固执己见，杨载福也觉得不应就这么撤兵。曾国藩写信与左宗棠商量，左认为曾国荃兵虽不能野战，但“亦不以退兵之说为然”。然而，周围的人却都认为曾国荃轻兵冒进，是不自量力，“众人藐视沅甫非能克金陵之人”，纷纷建议曾国藩强行将兵撤回，另谋他法。这就使得曾国藩左右为难，了无定计，于是他决定亲自去前线进行视察一下，然后再做进退的决定。
1863年3月17日，曾国藩从安庆出发，乘舟顺江东下，过池州（今贵池县）、大通以后，到达芜湖，在裕溪口会见了彭玉麟。3月23日，曾国藩坐船驶至乌江，并携同杨载福一同到达大胜关，次日到达曾国荃的雨花台大营，听取了曾国荃的汇报，并视察了雨花台的壕墙，见曾国荃一切防御均井井有条，他甚为满意。二月十五日，曾国藩由大胜关赴九连洲。次日坐船回驶，又查阅了金柱关、克山桥。然后由东西梁山入裕溪口小河，查阅了雍家镇、运漕镇、石润埠、无为州。4月10日，由神塘河出江。4月15日回抵安庆。在一个月的视察期间，曾国藩对进兵天京的各部湘军防御比较满意，他认为“曾国荃围军坚定，水陆辑睦”，于是便取消了撤兵之议。
