江宁的门户安庆，虽然有狼山总兵王鹏飞统领的一万多人的山东兵保卫，可这帮花拳绣腿的绿营兵还没看到太平军的影子就望风而逃。2月24日，藩库饷银五十余万两及城上二百门重炮都成为了太平军的囊中之物。2月26日至3月7日间，池州、铜陵、芜湖、太平府（今当涂）、和州等地，都相继被太平军攻克。武昌距江宁有一千多里（589公里），太平军只用了四周时间，3月8日就出现在了江宁西南的善桥，可见太平军行军攻略是多么神速。
太平军一路势如破竹，3月12日，水陆大队赶到，分兵占领浦口，完成对江宁的包围。
这时，江宁城内，清军旗兵绿营共5000多人，另外，还有临时募集的壮勇1万人。陆建瀛在太平军到达前，将城外兵勇都撤入城内，企图固守。清廷得知江宁被围后，急令钦差大臣向荣、琦善率领南北两路清军日夜兼程、前去救援。
太平军不给清军留任何喘息的机会，决定一鼓作气，拿下江宁；于是，选定城北仪风门为突破口，凭着攻打武昌的经验，采用穴地攻城法，悄悄地挖了通向城墙的地道，埋下地雷；同时制云梯数百，分攻各门，迷惑清军。19日拂晓，炸塌仪风门附近城墙2丈余，数百名将士冲入城内，后来，遭到八旗兵的凶猛反击，被迫退出。
此时，防守南城的清军听到北城已经被攻破，总督被杀，不战而溃，各个面如灰色。太平军数千人在林凤祥、赖汉英率领下，乘着夜色，攀缘云梯登上城墙，打开聚宝门(今中华门)、水西门、汉西门。第二天黎明，太平军大队攻入城内，直奔城东南旗兵聚守的满城(明代内城)。虽然遇到了旗兵及满人的拼死顽抗，但太平军英勇奋战，最终攻破满城，全歼守军，于是，江宁全城被太平军占领。
29日，天王洪秀全入城，改江宁为天京，定为都城，从而建立起与清王朝对峙的太平天国农民革命政权。太平军声威大振，千里长江，战舰如云，一百八十年前的三藩之乱重新上演。
等救援的清军风尘仆仆地赶到江宁时，江宁早已落在了太平军的手中了。无奈，向荣、张国梁奉命带领从广西跟踪出来的绿营在江宁南部建起江南大营；琦善带着一支军队匆匆南下，在长江北岸扬州建起江北大营。这两大营的清兵恨不得把江宁城内的太平军一口吞下去，方解心头之恨。
本来就积贫积弱、灾难深重的中国百姓，从此又要陷入血与火的战乱之中了。
自己的队伍最牢靠
初办团练受挫，曾国藩一度灰心失望，感叹世事艰难，不过，他很快便调整自己，摆正心态：不就是被排挤嘛，爷还不乐意在长沙待着呢。
在离开长沙之前，曾国藩原本想给皇帝上疏，再弹劾他几个庸官，后来经过再三思考，决定“好汉打脱牙和血吞”，因为是自己越权在先，如果皇上怪罪下来，自己也脱不了干系。再说，依靠别人，最终难以立足，必须发愤练成一支属于自己的军队，才有成功的本钱。这也是他离开长沙，到衡州练勇的根本原因。
衡州是湖南衡州府知府衙门所在地，实际的名字是衡阳，即现在的衡阳市，位于南岳衡山南麓，是湖南仅次于长沙的名城。
湖南自古有三湘之称。关于三湘，历来众说纷纭。有一种说法是：潇湘、蒸湘、沅湘合为三湘。衡州城是蒸水与湘水的汇合处，为两广门户，历来的兵家的必争之地。
曾国藩对衡州也特别亲切，因为一来他祖籍衡州，二来欧阳夫人是衡州人，三是他少年时代曾在衡州求学多年。所以，他到了衡州，就好像回到了湘乡，看着熟悉的一草一木，内心深处有一种鱼游大海、虎归深山的感觉。他深信在自己的地盘办事应该不会遇到那么多的阻力了。
人都是这样，只有真正经历过，才知道什么是对的，什么是错的，才能逐渐变得成熟起来。曾国藩就是这样，在长沙受挫后，他也变得谦和了许多，并且认识到，如果没有地方上的鼎力相助，要想编练成新军，简直就是痴人说梦。
所以，在咸丰三年八月，曾国藩刚到衡州就去拜访了衡州知府陆传应。知府官位仅是从四品，比曾国藩整整低了五级，但他不仅没有以高欺下，还和他称兄道弟。曾国藩的平易近人让陆传应受宠若惊：谁说这位二品团练大臣不好相处，看来，以前的风言风语只不过是谣言而已。
曾国藩的适当弯腰换来了和睦一片，二人的双手紧紧地握在了一起，很快就成了要好的朋友。
陆知府慷慨地借给曾国藩10万两白银给湘军做军饷，全力支持他编练新军。
因为少了许多不必要的应酬与牵制，曾国藩的烦恼也少了许多，他可以一心一意地训练他的湘军了。
军饷问题暂时解决了，接下来就要选择合适的训练场地了。
在衡州城小西门外的蒸水滨，有一片非常宽阔的荒地，当地百姓称它为演武坪。这是当年吴三桂在衡州称帝时，为演练兵勇开辟的，后来便成为历代驻军的操练场地。曾国藩沿衡州城转了几圈，最后选定了这块虽然已经荒芜，但却很实用的地方作为自己训练湘军的场地，
把从长沙带来的一千多名勇丁驻扎在这里。
有了上次的教训，曾国藩在衡州处处小心谨慎。就说他的“署衙”吧，刚开始想用“钦命团练大臣统辖湖南湘军总营务局”这个名称。后来感到不妥：皇帝诏书写的是“帮办团练大臣”，“帮办”二字，定下了主从关系，湖南的主角是骆秉章，而且团练不是军队，统辖湖南湘军就更不妥了。枪打出头鸟，为了不授人以柄，最后决定还是照旧用长沙时用过的“湖南审案局”五个字。
虽然招牌没有改变，但实质内容已经大不一样了。此刻的曾国藩已经不再是当初在长沙时的那个曾国藩了。他不再蛮干，不再仅仅做维持地方治安的刽子手，而是下决心要练成一支劲旅，做惊天地、泣鬼神的男子汉事业。
既然已经为自己确立了目标，曾国藩就会全心全意地去做。
从咸丰三年（公元1853年）八月到达衡州，到咸丰四年（公元1854年）正月从衡州出征时结束，曾国藩在这里待了整整五个月。他用五个月时间练就了一支劲旅，对他来说已经足够了。
曾国藩自从有了要成就一番伟业的想法之后，便踌躇满志，恨不得马上能为国家排忧解难；可是心急吃不了热豆腐，任何事都要慢慢来，想一步登天，那只能是功亏一篑。
想练就一支劲旅，除了有地方官员的协助外，还必须取得上面人的支持，另外，还必须有得力可靠的官兵。这二者缺一不可。
虽然在长沙办团练很不爽，但曾国藩深知借助骆秉章的重要性，于是，特意给骆秉章写了一封信，向他报告团练的具体情况，欢迎他随时来衡州视察。曾国藩希望用这种“屈服”的方式来换取他的全力支持，如果不能如愿，至少以后不再给自己穿小鞋也相当不赖了。
接着，曾国藩又给郭嵩焘、刘蓉、李元度、陈士杰等人各写了一封信，让他们前来共谋大计。
写完这几封信后，曾国藩一下子感到很疲劳，在床上躺了一下，却怎么也不能合眼。今后如何训练这批湘勇呢？他在心里盘算着，要想成就伟业，就必须有一支劲旅，这支人马虽不能叫军队，但实际上要比八旗、绿营强得多。人数上不能太少了，就凭现在这一千多号人是远远不够的。
但是如果扩勇，肯定会立即引来非议。目前有十个省办起了团练，其他九省帮办团练大臣直接掌握的团丁都不超过二三百人，湖南这一千多人已经是最多的了。再说这一千多人的饷银、器械全靠自己解决，已经走上了绝路，如果真的编练大部队，经费问题更难以想象了。
曾国藩躺在床上，辗转反侧，虽然十分劳累，却毫无睡意。
好在他发出的信有了回应，这些烦人的问题也有人可以共同商量了。
