太平天国运动爆发后，赛尚阿督师广西，有“剿匪”经验的江忠源随军效力。他从跟着自己“剿匪”的乡勇中选出五百人编为一军，因所有勇丁均来自江忠源的家乡湖南新宁，故称新宁勇，这就是湘军中最早的一个支派——楚军，也称楚勇。
在官军序列里，江忠源属乌兰泰指挥，乌兰泰很赏识江忠源，把他作为自己的左右手，但乌兰泰本人与向荣不和，两人经常闹矛盾，当然也谈不上什么密切配合。江忠源为此不知劝了乌兰泰多少次：别再跟同僚怄气了，大敌当前，这样只会坏事。
乌兰泰却无论如何拗不过这个弯，他认为他的功劳比向荣大，赛尚阿应更重用自己，为什么反而要去偏袒向荣，不公平。
江忠源调解不成，顿感前景不妙：跟太平军作战，本来就没有绝对优势，你们还要窝里斗，能不打败仗吗？
于是江忠源便以母亲生病为由告退回家了。
官军包围永安时，江忠源听说向荣要“以追为剿”，意识到这是个馊得不能再馊的点子，赶紧派人送信给向荣：只要继续深沟高垒，等到太平军一旦粮尽援绝，便可以将其困死在城里。
向荣却偏要摆噱头给赛尚阿和乌兰泰看，弄什么妙计歼敌。结果正如江忠源所言，太平军一旦突围出去便势不可当，他们由守转攻，反过来包围了广西省城桂林。
听到消息，江忠源坐不住了，他又扩招了千名乡勇，率部火速赴援。这时乌兰泰已受伤死于军中，江忠源遂得以独立指挥楚军。
江忠源治军，可以看到他当学子时古道热肠的一面，作为统兵将领，他关心和体恤士兵，能够同甘共苦，当兵的吃什么他也吃什么，从不搞特殊待遇。另一方面，“江青天”时代的机敏务实也随处可见。每次作战前，江忠源都要深入前线，对地理形势进行一番认真观察，之后举着马鞭，告诉部下们，哪里可以诱敌，哪里便于设伏。
在后来的很多次战役中，楚军都并非主力，但由于江忠源善用地形，往往却能起到出奇制胜的效果。
桂林一战，江忠源没有到城里去协防，而是大胆地驻军城外，结果三战三捷，迫使太平军撤围而去，令人叹服不已。
不过真正让江忠源扬名天下的，还是蓑衣渡之战。蓑衣渡是湘江上的渡口，位于湘桂两省交界处，过了蓑衣渡，很快就可进入湖南。江忠源料定太平军要入湖南，则必经蓑衣渡，因此向他的上司提出要在蓑衣渡伏击太平军。
江忠源的上司早就被太平军打成了惊弓之鸟，正面挡都怕挡不住，哪里还敢搞什么伏击，江忠源的方案被一口回绝。
江忠源不甘心，他亲自到蓑衣渡查看地形，发现此时江水暴涨，水流湍急，战机实在不容错过。上司不同意，他就独自率楚军赶到蓑衣渡，砍伐湘江沿岸树木制作木桩，然后钉入河底，以阻断水路。唯一麻烦的是人不够，湘江两岸，楚军只能埋伏在西岸，无法顾及东岸。
几天后，太平军乘坐数百条船到达蓑衣渡，当即被木桩拦住去路。楚军乘机以火炮和火箭攻袭，将太平军压于江中。双方激战两个昼夜，太平军最终找到东岸的空隙，才登岸冲了出去。
蓑衣渡之战，是清军与太平军作战以来所取得的第一个大胜仗。太平军在这一战中损失了全部辎重粮草，数千精锐的广西老兵战死，最惨的当然还是此前已经受伤的南王冯云山中炮身亡。
在拜上帝会的领导人中，冯云山算是天父的三阿哥，也就是说，洪秀全以下就轮到他了。更重要的是，早期教徒大多是靠冯云山发展出来的，“教主”洪秀全不过因人成事而已。更有论者甚至认为，冯云山的死直接关乎后来太平天国的兴衰。
虽然太平军逃离了蓑衣渡，但这一战对其士气打击是如此之大，若不是东王杨秀清坚持己见，洪秀全等人当时就想散伙回家或者转返广西了。
杨秀清说：“我们都已经骑上虎背了，还能下得来吗？唯今之计，就是专攻金陵（南京），以后即使不能完全取得天下，起码据其半总还是有的。”
听他这么一说，众人觉得有道理，遂鼓起勇气，继续向湖南挺进，而且很快就杀到了长沙城下。