团练和乡勇是清朝兵制下的产物，正规军的战斗力越来越弱，不得已才招募各地的乡勇。
清朝靠八旗兵起家，入关之后，八旗兵战斗力越来越低。三藩叛乱时，康熙主要靠绿营兵镇压了这场叛乱。从此以后，八旗兵的战斗力越来越低。为什么？因为清廷一直把八旗当做是家底，不随便拿出来用，但工具不用都会生锈，何况是兵团。
乾隆后期，在讨伐白莲教时，迫于形势需要，发展出团练和乡勇。没想到这个发明还真的应了时代的需要，以后每逢战争都会训练一批乡勇。
从乡勇团练到湘军还有很长的一段距离要走，完成这段距离的正是曾国藩。值此乱世，湖南盛行经世致用的理学思想，在清朝，湖南是一个相对落后的地方，但湖南人天生有一种强烈的“成功”欲望。
江忠源还活着的时候，曾国藩就建议训练一万人，一举拿下天京。这一万人就是湘军最早的骨干，如何治理这支军队呢？
曾国藩是这样说的：“带领湘军的小头目，第一要求能够治理百姓，第二要求不怕死，第三要求不在乎功名利禄，第四要求能够吃苦耐劳。”曾国藩用人最注重忠义血性，只有这样的人才是可靠的，所以他最怕用那种智巧的人，更怕用像自己城府这么深的人。曾国藩不愧是一个深邃的领导者。
在湘军的将领中我们发现这样一个现象，读书人当将军的比武夫多得多。还别说，真管用，这些读书人都是曾国藩精挑细选出来的，也许拎不起斧头，但是骨头都是很硬的。
曾国藩对士兵也有严格要求，优先选择年轻力壮的农夫，如果会玩一些兵器的更好，但凡油头滑面的一概不收。有市井气（市民气、俗气）的也不收，有官僚气的更不收。曾国藩本身是个官僚，居然如此歧视官僚，这个人做领导简直到了化境。
为了防止士兵们逃亡，曾国藩在招募的时候就各个营官到自己老家去招兵，这些兵的家庭住址父母兄弟等信息全都记录在案——跑得了和尚跑不了庙啊，点名时人不在，行，到你家里去找。曾国藩用书生管理农民，确实很有创意。
为了保证将士们英勇作战，曾国藩还提高他们的薪水。曾国藩的钱哪来的？小部分是清廷拨款，大部分还是自己筹措的，在筹钱这块，他有一个智囊团，可以从各种途径获取银两。刘蓉和郭嵩焘都是理财和搜刮的高手。所以，湘军的拿的钱有绿营兵三倍多，连打仗都受经济规律影响啊。
至于将士的薪水，曾国藩是这样安排的：带五百人，一年可以拿三千两银子，依次递增，如果能带一万人，一年可拿六万两黄金。这种激励作用是相当大的，只要你有本事，不怕死，就有可能发财。
曾国藩这人还挺有创造力，雍正无中生有创立个军机处，他曾国藩也创立了一个营务处。营务处相当于一个参谋机构，专门负责培养军事人才，相当于军营里的军校。
曾国藩管理将领有四字秘诀：勤、恕、廉、明。所谓勤就是说当将领的一定不能懒，将领一懒，军纪就会涣散，凡事都要亲临第一线，了解种种细节，然后再作决定。所谓恕就比较难理解了，大家应该凶狠才对，为什么要强调恕呢？曾国藩认为大家都是湖南人，都是乡亲，应该亲如兄弟，不要动不动就责打士兵。所谓廉很好理解，当将领的一定要廉洁奉公，这样士兵才会卖力。所谓明就是要明察秋毫，不能被下面的人糊弄。
在军中，曾国藩号召大家要吃苦耐劳，提出了四耐：耐冷、耐苦、耐劳、耐闲。
曾国藩在组建湘军时，借鉴了戚继光的经验，同时结合清朝现有的兵制。曾国藩以营为基本定编单位，初设每营三百六十人，后设五百人。在每一个营中，十人为一队，但实际上一个队有十二个人，还包括队长和斯养，斯养到底是个什么人呢？其实就是一个烧饭洗衣服的，打仗中也需要这样的人。八个队又组成一个哨，在每个哨中，第一队和第五队配备抬枪，抬枪大概有三十斤左右，相当于那时候的重机枪。二、四、六、八队配置大刀和长矛，第三和第七队配置小枪。四哨为一营，营官除了指挥四哨之外，还有六队亲兵，第一和第三队亲兵是炮手，二、四、六队用的武器还是刀和矛，第五队是长枪队，没有哨长，亲兵总共七十二人。
一个营里，各个兵种搭配比较均衡，就好像一道营养均衡合理的菜，上了战场自然有威力。除此之外，曾国藩还增加了长夫制和帐棚制。打仗并不简简单单就是拿起武器上战场卖命，除了卖命之外，它还是一项浩大的工程。在清军中，没有专门用来搞后勤的士兵，后勤也不光是运粮草做饭那些，有时候还包括修筑河工、守护好漕运等等事情。
一碰到需要大量人力物力的时候，清军就到处抓人来做苦力，这么做法是典型的扰民。曾国藩亲自在第一线，他知道老百姓都很反感官兵一有事情就抓人去做，所以他特地增加了长夫制和帐棚制。什么是长夫制呢？也就是说每一个营配备一百八十个长夫，这些人就是用来干活的。以后，士兵可以专心作战，不必当全能士兵了，打好仗就行了。所谓帐棚制就是各营自带帐棚，确保扎营的时候士兵有地方住，这就避免了士兵们抢占民房，说白了也是为了严肃军纪，取得老百姓的支持。
不同的人领导的湘军营制也不相同，只是说曾国藩的营制是主流，也是最成熟最有效果的。
曾国藩对练兵也非常重视，这一点跟杨秀清是一致的。曾国藩曾说，有兵不练跟没兵一个样，兵不练精跟没练一个样。所以曾国藩从不让新兵上战场，要上战场首先在练兵这块已经过关了，这就是为什么老师吴文熔和好友江忠源战死的时候，曾国藩一直没有伸出援手。不是他不想，而是他不想把自己的家底全部赔进去，要想不赔，必须将兵练精，曾国藩深深懂得兵贵精不贵多的道理。
在陆军这块，太平军和湘军势均力敌，但太平军的水师明显比不上湘军。虽然太平军水师数量庞大，但编制非常混乱，作战效率很低。
打仗有时候打的是政治，曾国藩这人在政治上非常高明，为了统一军心，振作士气，他亲自编写了不少军歌，其中有《爱名歌》《解散歌》《陆军得胜歌》《水师得胜歌》等。
而且，曾国藩讨伐太平天国的檄文非常高明，他一下子就抓住了对方的要害。曾国藩闭口不谈民族矛盾，他死死揪住太平天国打倒孔教、打倒传统这点，把这场镇压农民起义的战争变成东西方的文化之争，变成孔子与上帝之争。在当时的中国，谁更有市场一看就知道。曾国藩还强调地域矛盾，说太平军在广西起家，只注重广西人，把其他省份的人看得猪狗不如。
不久，胡林翼的湘军也并入曾国藩的部队中，曾国藩领导的湘军已经初具规模，足以和太平军抗衡了。
世事真是因缘巧合，曾国藩办湘军原本只是为了给江忠源补充兵源，没想到江忠源战死，他自己不得不从幕后走到台前。我们不知道曾国藩对这样的结果是感到高兴呢还是压力很大，总之他真的站出来了。
刚开始的时候，曾国藩也不是很顺利。
太平军将领林绍章进入湖南后，一路攻城略地，占领了不少地方。随后，林绍章打算占领湘潭和靖港，然后围住长沙。曾国藩让满洲将领塔齐布率一千三百人、江忠淑率两千人，前往湘潭阻止太平军。
塔齐布和江忠淑抵达的前一天，林绍章已经拿下了湘潭。塔齐布和江忠淑都认为趁着太平军尚未站稳脚跟，立即进攻。林绍章也可算得上是一员猛将了，加上他指挥的是太平天国的精锐部队，所以难免不把湘军放在眼里。正因为这样，一交战的时候他就傻眼了，他是真没想到这次遇上劲敌了，这些训练完不久的湘军居然比清廷的正规军还能打。
其实湘军人数也不多，也就三四千人，林绍章万万没想到自己手下身经百战的将士居然被这些乡勇打败。仓皇之中，太平军退入城内坚守。
这时，曾国藩的水师部队也抵达湘潭城外，水陆两军联合作战。林绍章也不服气，他是真不信这些人真这么厉害，觉得一定是侥幸。可惜，事实就这么残酷，由不得林绍章不信，林绍章十次出战十次失败，打到最后手下的人都快死光了。走投无路之下，林绍章带着四个亲兵连夜出城逃到靖港。
曾国藩心血来潮，想亲自指挥攻城战，拿下靖港。讽刺的是，曾国藩训练出来的湘军虽然无敌，但他自己指挥起来却手忙脚乱，就像一个新手第一次驾车一样。湘军的兵力虽然是城内太平军的几倍，居然屡次被太平军击败。一旦失败，就有人想开溜。曾国藩治军甚严，他拿着剑站在大旗后面，大声说：“过旗者斩。”
很多乡勇也很聪明，他们不过旗，而是绕着旗逃跑。曾国藩气得都快吐血，居然跟江忠源一样投水自杀，幸亏被属下救了。
羞愤归羞愤，既然活下来就得好好活着，开心地活着。靖港一战，曾国藩大败，但为了鼓舞自己生存的信心，他居然在给咸丰的奏折里巧妙地把这次惨败说成是小胜。曾国藩确实有人所不及的一面，他既不怕死，又很热爱生命，这样的人是无敌的。