1854年8月9日，两广水师从上游乘风直下，向太平军营寨杀去，一路上他们见到的都是太平军小船，以大打小，极其顺利。
其实这些小船都是曾天养故意放出来的，为的就是把对手诱到下游的港湾里去。一进港湾，官军大船的优点便变成了弱点，它们体大笨重，转个弯，挪个身都很费力，相反，太平军的小战船虽然个头不起眼，但是数量既多又灵活，很快就把大船包围起来。
陈辉龙坐在罟船上，开始还装得满不在乎，直至发现曾天养潜藏在暗处的中型战船也一齐出击时，才大惊失色，这时候因为风向缘故，想退却退不了，只能坐以待毙。
在当天的水战中，广东水师一营被全歼，继后的湘军水师两营被击溃，包括陈辉龙在内的四员大将战死，毁沉战船三十余艘，连陈辉龙所乘的大罟船也被曾天养给缴获了。
损失如此之惨，让曾国藩禁不住“伤心陨涕”，心疼得都流下了眼泪，他对曾天养的能征惯战也有了更加清醒的认识：难怪连江忠源和吴文镕都对付不了，此人果真是“剽悍异常，机警有谋”。
有勇无智的人，你可以智取，有智无勇的人，你可以狠斗，只有智勇兼备的人，会使人产生无懈可击的烦恼。
被曾天养这么一击破，湘军水师“皆丧胆”，不敢再放手与太平军一搏，曾国藩又得看陆师的成效了。
说到智勇兼备，曾国藩手下也有一员大将具备这一特质，此人自然就是陆师中的塔齐布，他和曾天养属于同一档次上的高手，现在轮到他们来分输赢，决胜负了。
由于西征军在湘潭损耗过多，曾天养不得不将所余不多的军队集中作用，1854年8月11日，他乘胜率部登岸，准备从水战转入陆战，刚刚上岸，塔齐布已奉命从陆路杀来。
凭借湘潭之战的经验，塔齐布知道兵贵神速，不能给对手以从容部署的时间，另一方面他也明白曾天养的厉害，所以不敢贸然攻击，只是争分夺秒地抢在太平军前面扎营布阵。
一旦塔齐布扎营成功，将可与太平军形成对峙，到那时，塔齐布固然不一定能突破城陵矶之险，但曾天养也未必可以轻易击败塔齐布，而这对曾天养来说是很不利的，因为他还得腾出手来对付随时可能再次出现的水战局面。
曾天养在寻找塔齐布的破绽，以便能够一击即中。这时他发现塔齐布有一点和他很相像，就是都喜欢列于阵前指挥，身边并无大军作为掩护，正是擒贼擒王的好机会。
曾天养突然单人独骑，纵马杀出，闪电般地出现在塔齐布面前。塔齐布猝不及防，他的作战配备，是身背一杆长枪，手拿一把强弓，但电光石火之间，这些都派不上用场。
曾天养一矛刺去，塔齐布的坐骑受伤倒地，把塔齐布摔在了地上。曾天养挺矛再刺，塔齐布已无处闪躲，冒险眼看就要成功了。
可是曾天养忽略了塔齐布身边的两个亲兵。这两个亲兵不是一般的小兵，都是军中精选出来的高手，其中一人持长矛，一人持套马竿，作战时与塔齐布形成一个三人团队组合：中远距离塔齐布用强弓或鸟枪射，到了近距离，如果对方是步兵，由持长矛者迎击，是骑兵，由持套马竿者招呼。
曾天养来得太快，两个亲兵同样有些手忙脚乱，但当他们回过神来时，便立即发动了反击。
曾天养也不是没有看到这两个亲兵，只是凭借他的武艺和勇力，通常情况下别说两个亲兵，就是五六个也不在话下，然而这次他错了。塔齐布的一名亲兵甩出套马竿，套中曾天养的坐骑后只一拉，马身子一歪，曾天养扑通一声摔倒在地，还没等他爬起来，另外一名亲兵已经用长矛刺中了他的胸膛。
有的错误可以纠正，有的错误不仅无法纠正，还能在最短时间内置你于死地。塔齐布身后的士兵闻声上前，“乱矛攒刺”，可怜一世勇将竟死于乱军之中。
曾天养的死，让西征军大为震撼，据说曾为其斋戒六天，以示悼念。自他死后，三军群龙无首，反攻岳州也再次失利，不得不退入湖北，湘事遂不可为。