太平天国起事后，清廷突然发现：朝廷厚养了两百多年的八旗兵、绿营兵，全然是些废物。不得已，只能求救于汉人乡绅组织的团练。当时正在湖南丁忧的曾国藩，于是顺理成章地组建了属于自己的地方武装：湘军。清廷最后能平定太平天国，靠的基本上就是曾国藩的这支湘军。咸丰过世，慈禧执政初期，晚清所依赖的，正是曾国藩一人。
1861年，慈禧下旨：江苏、浙江、安徽、江西四省的军队，四省巡抚、提镇，统统交由曾国藩调度节制。基本上把当时清廷所能控制的半壁江山，都交给了曾国藩。晚清朝廷对曾国藩及其湘军的倚重程度，由此可见一斑。那么问题来了：既然湘军已经能够如此把握朝政，李鸿章的淮军又是如何得以兴起，并很快取代了湘军的地位呢？一切起源，都因为曾国荃这个九弟，没能听他哥曾国藩的一句话。
1、上海危急，向曾国藩求救！
1860年，太平天国在忠王李秀成的带领下，从南京东征上海。这一年，还有另外一件兵事正在进行着，英法联军正在攻打北京。如此一来，当时的上海情况就很危急了！清廷肯定是一点也顾不上上海了，他的皇宫都快被英法联军占领了，他那顾得上你上海啊！上海的租界区里原本是有些外国兵驻扎的，但因为主力都去攻打北京了，当时上海只有英军900人、法军300人。上海环顾四周，唯一能帮助他们抵抗太平天国的，只有手握重兵的曾国藩了。可惜当时曾国藩的军队也已是捉襟见肘，加之他当时正一门心思地在安庆筹备，于是婉拒了上海的请求。
2、上海人急了，开出了让曾国藩没法拒绝的条件
太平天国到了后期，纪律败坏，基本上也就和土匪差不多了。而当时的上海，已经成为重要的通商口岸，有钱士绅已经成为能够影响城市决策的一个阶层。一看曾国藩不肯来，士绅们急了，一合计，通过李鸿章带话给曾国藩，给湘军开出了优厚的条件：——每月为驻军提供10万两的军费。这就相当于花钱买支雇佣军来保护自己了。要知道曾国藩当初办湘军，咸丰给的旨意就是：自筹饷银。湘军从始到终都是属于编制外部队，没有任何财政拨款。所以，当上海人开出月薪10万的价码，曾国藩立刻放下架子，赶紧说：我来，我马上就来！
3、这种好事，曾国藩首先想到了他弟弟曾国荃
对这种好事，曾国藩自然首先想到的是自家人。赶紧通知当时正驻扎在安庆曾国荃，南京咱暂时先不打了，先去上海把这10万两银子挣了。如果是几年前，曾国荃或许不敢吭声，老大说什么他就做什么了。但现在他觉得自己翅膀硬了，在湘军中也能独当一面了，开始有自己想法了。更主要的，他觉得南京指日可下，如果能够顺利攻下南京，灭了洪秀全，那将是既能封王、又可名留青史的千秋伟业！区区10万两银子，那能和这些相比啊！他一口回绝了他哥的好意：不，我不去上海，我要攻下南京，灭了洪秀全！
4、曾国藩退而求次，把这好事给了李鸿章
弟弟长大了，不听哥的话了。曾国藩叹口气：不当家不知柴米贵啊！这好事既然曾国荃不接，但也不能丢啊，把手头的人盘点了一下，把这机会给了李鸿章。人们都传曾国藩懂相术，最为识人。就从他这次选人来看，确实是高人。正是他在1861年给了李鸿章组建自己军队的一个机会，从此把李鸿章推向了历史前沿。李鸿章成为继他之后，晚清最为倚重的重臣。淮军也成为继湘军之后，晚清唯一能打仗的部队。
5、李鸿章把握住了这个机会，淮军迅速从无到有
曾国藩让李鸿章接这个差，但却只是给了他个名份，并无一兵一卒与他。李鸿章依葫芦画瓢，也学着曾国藩的样子，转身回老家安徽“自募一军”，首批淮军募了6500人。行文至此，有心的读者难免有个小疑问：6500人，如何在短时间就能募得？就要提及李鸿章早年，也曾有过办团练的经历，只是办的很不成功，一气之下才去投奔了曾国藩，并在其幕下做了4年幕僚。一个安徽人在湖南的势力范围内，肯定混的很难。所以当他得到能够组建自己军队的机会后，迅速把之前办团练时的一些骨干分子召集起来，6500人的队伍也就能够短时间内拉起来了。
1862年4月，13营淮军从安庆出发，分7批次，耗费了上海官绅预付的18万两银子，租用了英国人的轮船，闯过太平天国辖境的长江段，顺利到达上海。上海人终于盼来了保护他们的部队，但他们一见淮军时，不免傻了眼睛：这哪里是一支军队啊，分明就是逃难的难民啊！全身穿着破烂、身上臭气熏天、许多人连鞋都没有，唯一表明他们是支部队的，就是一件绣着个“勇”字的破大褂。他们一上岸，就坐在太阳下，光着身子抓身上的虱子吃。洋人笑他们，上海人甚至后悔出那么多钱了。但李鸿章很坚定地说：军贵能战，非徒饰外表！
6、“树”字营和“春”字营，为淮军赢得了头彩
首批淮军共分13营6500人，如此算下来，一营兵力约在500人。与湘军类似，淮军以营为单位，命名则直接采用营长姓名，保持着旧式军队的传统。如“树”字营的长官，即为张树声，“春”字营的长官，即为张遇春。初到上海的淮军，先是动用了上海海关税收购置洋枪洋炮。抵达上海仅一个月，李鸿章并率淮军的“树”、“春”两营，在虹桥一战中，以3000人的兵力，大破李秀成号称10万的部队。
淮军一战成名，震惊上海滩！此后淮军边打边建，在平掉太平天国后，先后转战皖、鄂、豫、鲁、苏数地平息捻乱，到1868年后，北起天津、保定，南迄上海、吴淞，晚清南北数千里江海要地防守，均交由淮军。李鸿章也正是凭此势力，官至直隶总督兼北洋大臣，完全将晚清的外交、军事和经济大权集一身，成为晚清政局中的重要人物。当时的日本人曾经这样说过：这么多年，我们不是在和清廷打仗，我们只是在和李鸿章一个人打仗。
7、不听话的曾国荃，后来结局真是造化弄人
曾国荃不听他哥的话，执意要攻南京、杀天王洪秀全，建万世功业，留名青史。前两点，他确实做到了。
1864年曾国荃率领湘军攻陷天京，洪秀全在城破之前服毒自尽，曾国荃命人将其尸首挖出，拖到长江边上浇油烧掉，然后将骨灰填进火炮，点烧引信，打到江中。湘军擒获洪仁达、李秀成等大小头目三千人，悉数杀尽。湘军在南京焚烧抢掠7天7夜，血洗全城，城中成年男子几近杀尽，尸体横江江水几为断流。
至今虽无确切死伤数据，但最保守估计应在50万人以上。南京，南京，我生活的这座城，承受了太多的苦难与杀戮！曾国荃想要建的万世功业、留名青史，最终还是成了笑话。不管他后来曾经如何一心向佛，“曾剃头”的恶名必将使他遗臭万年。