太平军攻打江南大营之时，曾国藩的湘军大营正驻扎在安徽宿松县，全力准备安庆战役。所部万余，分布在潜山、太湖、宿松一带；李续宾近一万人，也驻扎在桐城西南，掩护包围安庆的曾国荃部。小小的皖西，一下子聚集了这么多兵马，到处都是黑压压的一片，人喧马嘶，鸡犬不宁。江南大营被攻破的消息传来之时，曾国藩正和部下们在宿松罗家祠堂悼念战死的浙江巡抚罗遵殿。罗遵殿是安徽宿松人，也是胡林翼的好友，前一年，他先从湖北藩司的位置上调任福建巡抚，数月后，又调任浙江巡抚。没想到此番调动，竟遭此噩运。罗遵殿的灵堂一派肃杀气象，高高悬挂的挽联由曾国藩亲笔题写：“孤军断外援，差同许远城中事；万马迎忠骨，新自岳王坟畔来。”现在，江南大营二次被破的消息，无疑雪上加霜，在曾国藩看来，这样的错误完全不应该犯下，绿营是朝廷的正规军，无论是装备还是筹饷上，都远远超过湘军，更何况朝廷对于绿营一直很重视，要钱给钱，要人给人。这样的失败，明显是因为指挥失误、官兵怕死造成的。江南大营一破，太平军必定会重新集结人马，将主攻目标对准南京上游。这意味着湘军的压力会继续增大，湘军弟兄们会因此加倍牺牲。
吊唁之后，曾国藩会同胡林翼等湘军高级将领在宿松召开了一次会议。这是一次具有非凡意义的会议。曾国藩和众将领在分析了军事形势之后，坚信战争的最终胜利一定属于湘军。而且，绿营一败，朝廷肯定会重用汉臣，形势将会有根本性的转机。在此之前，湘军在长江中游取得了一系列的胜利后，虽然受到朝廷的重用，但湘军毕竟是“体制外的军队”，始终没有纳入最可依赖的圈子。曾国藩知道朝廷的真实想法，那就是：让湘军在长江中游与太平军鏖战拼消耗，而让绿营在金陵地区集结，这样，硬仗由湘军来打，胜利果实则由绿营来摘取。但朝廷没有料到的是，民兵部队湘军越打越强，逐渐占了优势；正规军绿营却屡战屡败，不堪一击。江南、江北大营连续被攻破，特别是这一次江南大营惨败，朝廷肯定会调整有关政策——半月以后，湘军大营收到消息，对于江南大营被破事件，咸丰非常愤怒，下旨将逃到上海的何桂清革职逮问；军机大臣彭蕴章革职。听到这样的消息，曾国藩稍感愉快一些，何桂清一直跟曾国藩不和，彭蕴章更是一个嫉贤妒能的小人。这些人不在台上，对曾国藩当然是好事。
1860年6月李秀成攻克苏州，形势对于清廷变得越来越不利，朝廷不得不打曾国藩和湘军这张牌了——一个好消息传来——6月8日，朝廷着曾国藩署理两江总督，令统率所部兵勇，取道皖南，恢复东南。8月上旬，朝廷实授曾国藩为两江总督，并命为钦差大臣督办江南军务，所有大江南北水陆各军均归节制；又将杨岳斌、彭玉麟统率的湘军水师拨归曾国藩节制调遣。
接到上谕的那一刻，曾国藩长吁一口气，终于感到扬眉吐气了。曾国藩得到的，不仅仅只是官位，更重要的，还是承认。从一开始组建湘军起，曾国藩就一直在不信任甚至打压中度过。或许朝廷清楚地知道，曾国藩之所以挺身而出，只是为了维护汉民族数千年的文化道统，对于满族的朝廷，并不是油然于心。曾国藩感到欣慰的是，朝廷此番决定，对湘军各方的情形有利，尤其是那些抗战的兄弟们，会因此有些名分，对于今后的前程，也会有利一些。身处两江总督的位置，曾国藩担心的一点是，太平军在苏南一带势头正旺，力量倍增，此时让他督办江南军务，压力是可想而知的。在家信当中，曾国藩流露出自己的情绪：担当此重任，深感害怕，最担心的是跟前任一样，遭受失败，让自己的家人蒙羞。这样的事，真不知是祸还是福，只有自己辛勤地做事吧，以报效朝廷。
有一个小插曲，足以说明曾国藩的做人准则——曾国藩接到上谕后，幕僚提醒说，在任命过程中，新上任的军机大臣肃顺起到非常大的作用，是因为肃顺的举荐，咸丰才下决心让曾国藩担当两江总督的。建议曾国藩给肃顺写一封感谢信，这样对曾国藩以后的升迁也有好处。曾国藩考虑一番后，没有写这封信，他觉得自己担任两江总督是朝廷的任命，不是哪一个人的原因，如果硬要归功某一个人的话，就把是非搞颠倒了。曾国藩只是给皇上上了一个折子，以谢龙恩。等到咸丰去世，慈禧联合慈安以及咸丰的两个弟弟发动宫廷政变，杀掉肃顺之后，在肃顺家找到一个密封的大箱子，里面装的都是全国各地的命官给肃顺的效忠信，几乎所有人的都有，唯独没有曾国藩的。这一下，也让慈禧对曾国藩有了一个很好的认识，确认曾国藩是忠于朝廷的大臣，也敢用曾国藩了。一次阴差阳错的经历，足以说明曾国藩的处事原则和处事方法。
应该说，曾国藩就任两江总督，不仅仅是曾国藩个人的转折点，也是战争的一个转折点，甚至可以说，是中国近代史上的一个关键点。正是满族君主政体和汉族上层分子中的领袖人物融为一体所造就的强大保守联盟，才使得这个腐朽的王朝苟延到二十世纪。同时传来的好消息是：朝廷同意了曾国藩的请求，在全国推广厘金制度。这一件事，让曾国藩非常高兴。这样，湘军的军事供给就有了很大的保障，最起码，会比以前的状况改善很多。晚清的厘金制度，是1853年帮办江北大营的刑部侍郎雷以创议的，其办法是，在盐、土药、洋药以及百货中征收百分之一的厘金，用于地方库银，这一部分，主要作为地方政府承担的军饷。1856年，曾国藩曾与湖南巡抚骆秉章达成协议：湖南的大部分厘金被指定作湘军经费之用。曾国藩重新出山之后，曾经力争为整个江西的厘金另外开辟一个不受省布政使控制的特别官署，这样，便绕开正式的财政机构，将这一部分钱财直接用于湘军的供给上。但这个渠道一直通行不畅。现在，朝廷正式同意了这一项措施，这意味着从此之后，湘军军费有了重要保证。曾国藩如释重负，自己这么多年牵扯精力最多的，就是湘军的供给。
1860年7月3日，滂沱大雨中，曾国藩按照朝廷的旨意，从宿松开往皖南。28日，到达徽州祁门县。祁门是安徽最南部的一个县，跟江西景德镇交界，是南京和南昌之间的必经之地，地理位置非常重要，也是湘军和太平军的重要粮道。曾国藩把自己的大营设在县城敦仁里弄堂的洪家大院里，这座大屋建于清代中期，原为一洪姓大茶商的私宅，坐北朝南，由承恩堂、养心斋、承泽堂、思补斋四部分组成，房房相连，屋屋相通，是驻扎军队的理想之地。曾国藩在洪家大屋巡视了一番后，决定将行辕设置在后花厅之中。然后吩咐笔墨伺候，亲自撰写了一副对联，让人贴在柱子上：
虽贤哲难免过差，原诸君谠论忠言，常攻吾短；
凡堂属略同师弟，使僚友行修名立，乃尽我心。
每到一个地方，曾国藩往往都会亲自撰写楹联。在楹联中，往往能看出那一段时间曾国藩在想些什么，努力避免什么。祁门洪家大屋的楹联显示，到祁门时，曾国藩的心情不错。
在祁门的那段时间，曾国藩主要是部署防务，查视营垒，巡视岭防，督战徽城。白天繁忙的军务停歇下来之后，每天晚上，曾国藩就要一个人在堂前凝神屏息端坐一会，这样，就可以让白天的喧嚣和烦躁如尘埃般慢慢落下，内心的涟漪也如微风掠过后的湖面一样，重新归于平静。曾国藩喜欢在这样的静谧中，汲取神秘的力量。然后，曾国藩会继续抖擞精神，处理大量的来往公文。有时候，在公文处理的闲暇，曾国藩会认认真真地写一些私人信件，这些信件就像候鸟一样，顺着蛛网般的驿道飞向四面八方，当它们飞回来的时候，又带来了各地的消息。写信，是曾国藩多年养成的习惯了，既是曾国藩的安慰，也是他情绪的通风口。当曾国藩提笔写信的时候，他就不再是一个大臣，不是一个杀人机器，一个暴徒；他只是一个父亲，一个兄长，一个朋友。曾国藩写信对象最多的，就是几个兄弟，还有儿子曾纪泽和曾纪鸿。在曾国藩看来，自己的几个兄弟，国潢生性疏阔，国荃豪爽任侠，至于曾国华和曾贞斡(国葆)，曾国藩一直担心他们“气太清”，气太清，就容易单薄，所以每次曾国藩都要嘱咐他们多读书，只有深厚的思想和扎实的学问，才能弥补气质的轻薄。当然，曾氏兄弟在通信当中，有很多家长里短的私事。在曾国藩看来，家事与国事，同样重要，疏忽不得。咸丰九年底，曾国藩写信给曾国荃，安排他回老家全权主持兄弟之间的分家。曾国荃回了老家荷叶塘一趟，把兄长的意思向大家转达了。这次分家，几个兄弟互相谦让，姿态都非常高。在宿松驻扎的曾国藩收到了妻子从老家来的信，告知他分家的情况：
内有分家分关一纸稿。大分金、玉二号，系先考与叔父离轩所分。小分福、禄、寿、喜四号，系余与澄、沅、季洪兄弟四人分，配合停匀，公私咸得欢心，沅弟之所经营也。
兄弟几个中，曾国藩最偏爱的，就是九弟曾国荃了，花费心血也最多。曾国藩最担心国荃的急躁脾气，几乎每次给曾国荃写信，都要告诫他不要冒进，要稳扎稳打，步步为营。对于大他十三岁的家兄，曾国荃当然非常尊敬，曾国荃统领“吉”字营时，曾在军营中手书一联，挂于帐中：
打仗不慌不忙，先求稳当，次求变化；
办事无声无息，既要精到，又要简捷。
曾国藩还写过一首《忆弟诗》送给曾国荃，这诗曾在湘军中广为流传：
无端绕室思茫茫，明月当天万瓦霜。
可恨良宵空兀坐，遥怜诸弟在何方？
纷纷书帙谁能展，艳艳灯花有底忙？
出户独吟聊妄想，孤云断处是家乡。
每一次写信，曾国藩总是不厌其烦，细致无比。读曾国藩的信函，可以感觉到的是，无论什么时候，曾国藩的气脉都非常顺畅，仿佛这些信函不是写自剑拔弩张的军中大帐，而是置身于恬静安宁的乡野古舍。当然，在家书中，曾国藩也流露出他的迷茫和痛苦，告知家人一些棘手的事情，比如他身患癣疮所遭遇的折磨——这种皮肤病自曾国藩三十岁时感染后，一直没能见好，曾国藩整天感到瘙痒，尤其是到了夜晚，更是奇痒难耐，无法入睡。曾国藩每到一地，就遍寻名医，但几乎所有中医对这种奇怪的皮肤病都束手无策。在信中，曾国藩经常向他的亲人们叙述自己患病的痛苦和无奈，排遣郁闷，也寻找慰藉。曾国藩就是这样心无旁骛地写着家信。家信对于曾国藩来说，就像是每天必需的修身功课，让曾国藩在肃杀冰冷的战争岁月里，感受到来自老家的温暖，也让他冶炼安详凝重的静气。
进军皖南，是朝廷的旨意，刚刚就任两江总督的曾国藩自然不好违背。因为江南大营溃败，金陵附近清军势力不再，朝廷想让曾国藩领军东援，继续给金陵施压。曾国藩也知道孤军深入的危险，移师祁门，在很大程度上，曾国藩只想做一个姿势给朝廷看。此次屯兵祁门，也是跟胡林翼商量过的。之所以把大营选择在祁门，主要出于多重考虑，一是湘军的钱粮供给大都来自江西，驻军祁门，可以保证江西的安全，确保饷源的供给；二是根据事态发展的情况，可以随时从皖南东进浙江，攻克杭州、湖州，在南部，对金陵形成包围；三是可以兼顾安庆那边的战局，如果时机不成熟，就掉头回安庆城下。在曾国藩心目中，真正重要的，不是迅速进驻浙江，杀到金陵城下，而是步步为营，把长江沿岸的各个城市，逐一收复，稳扎稳打，然后由西向东推进，直逼金陵城下。在曾国藩看来，安庆的位置太重要了，它就像是太平天国长江沿岸的一个桥头堡，如果这个桥头堡占领了，大势就会逆转，胜利的天平也就会倾斜。曾国藩率领人马到达祁门之后，太平天国立即有了激烈反应，调集了李世贤部和李秀成部，全力堵截湘军的进攻路线。这样，一直以来富庶宁静的皖南，不可避免地成为双方厮杀的战场。那段时间里，大大小小发生在皖南的战役，竟达百余次之多。由此可见战争的频繁和惨烈。
徽州的战斗差一点让曾国藩身败名裂。这个时候，曾国藩的主力部队一部分在安庆城下，一部分在江西境内，战线拉得过长。一万多人进入徽州后，一下子掉入太平军的包围圈中。当时，在皖南的东北面，由太平军李秀成据守；在南面，则是太平军李世贤部；在西北，太平军英王陈玉成的大军一直在长江沿岸，总兵力在五万左右。置身这样的局面，无疑岌岌可危。湘军在徽州的崇山峻岭中一再受阻，通向浙江的道路无法打开。这当中，最严酷的战争是徽州府的失陷。1860年10月，太平军两路夹击，一路从北到南，从宁国方向杀向祁门；另一路则由南至北，从景德镇方向杀来。从宁国方向杀来的太平军连续攻克旌德、绩溪，兵临徽州府城下。曾国藩下令徽州府的将领李元度坚守不出，李元度违背命令，轻易出城，结果被打得大败。徽州府失守，李元度无脸见曾国藩，南下逃走。曾国藩勃然大怒，要将李元度军法治罪，李鸿章等一帮幕僚苦苦相劝。为此，曾国藩还跟李鸿章翻了脸，致使李鸿章后来出走南昌。
危机之时，一件意想不到的事情发生了——第二次鸦片战争爆发，英法联军侵犯天津、北京，击败僧格林沁的军队。咸丰只好带着皇妃、皇太子及亲信大臣肃顺、载垣、端华等逃往热河承德避暑山庄。十万火急中，咸丰降旨，要曾国藩速派鲍超率精兵数千拱卫京师。接到诏书，曾国藩和胡林翼一下子慌了神，此时此刻的曾国藩正是泥菩萨过江自身难保，正指望鲍超军从江西赶往皖南救援，如果鲍超军此时转赴京城，皖南的战局将彻底崩溃。如果不派部队进京，曾国藩又会背上一个“抗旨”罪名，同样也承担不起。情急之下，曾国藩赶忙召集幕僚商议，李鸿章的一个建议解了燃眉之急，那就是采取“拖”的方式——派人送信给朝廷，堂皇地建议：鲍超人地生疏，断不能去，是否由曾国藩和胡林翼二人中酌派一人进京，这一招，明显的是给朝廷出难题，因为朝廷最忌讳手握重兵的“节度使”进京。这样，朝廷当然不同意，还会下诏来调人。这样，信在路上一来一往，就会占用很长时间——也就达到了争取时间、调集人马的作用。这一招果然有效——不久，京城的事态得到了有效缓解，曾国藩接到朝廷新旨：清廷与八国联军已议和，鲍超军不用北上。
