在李鸿章着手以“洋器”装备淮军时，首先遭到曾国藩的反对。曾国藩一向认为，用兵在人不在器，而且怀疑洋枪洋pào的作用是否有李鸿章说的那么厉害。李鸿章不便qiáng烈回驳自己的恩师和统帅，只是在回信中委婉地表示，我是想学习洋人的一点儿“密法”，希望能增qiáng淮军的战斗力。
在1862年 5月给曾国藩的信中，李鸿章谈到世界历史说，以前俄罗斯和日本因为不知道大pào的厉害，所以国力日益衰退，自从他们从英法学到武器的制造术后，便逐渐能和英法比高下。除此之外，李鸿章日益感到淮军势单力薄。他考虑到从老家招兵不方便，所以除了在当地招募了一些新兵之外，把淮军主要来源放在改良以前的防军上。他还收编了一大批太平军的人马，用以扩大和充实淮军力量，而且收编的降军力量远远超过改编的防军。这是李鸿章有意采取“以毒攻毒”之策。
此时李鸿章还开始组建自己的水师。最早的淮军水师起建于安庆时期，那时候有五只大船。到达上海之后，李鸿章改编了上海旧的水师防军和苏嘉地区的部分船队，还有其他一些零散的力量。他还统率着淮阳水师和太湖水师。这样，李鸿章的淮军便达到了水军 4 万人，陆军 7 万人的规模。
最初李鸿章训练淮军，基本上也是按照以前训练湘军的那一套办法，特别是每天要带领士兵唱“爱民歌”，这都是曾国藩的创意。湘军虽然拥有洋枪洋pào，但是很少使用。李鸿章则请洋军官进入淮军大营，帮助实际操练，让士兵学习洋枪洋pào的使用方法。从此以后，淮军这支湘军中最早的分支部队，开始和湘军有了诸多的差别。李鸿章就率领着这样一支队伍，开始了对太平军更猛烈的进攻和更疯狂的剿杀。
从 1863 年初到 1864 年 5 月，李鸿章率领淮军一路收复昆山、常熟、苏州、常州，向世人显示了这支军队的作战能力。在此期间，“常胜军”也协同淮军一起作战，但都是遵从李鸿章的部署。1863 年11月，李鸿章亲自率军攻打苏州，与忠王李秀成部抗衡，双方相峙不下。此时，太平军内部一些动摇分子产生叛降之念。当戈登率领的“常胜军”攻城陷入埋伏之后，太平军将领纳王郜永宽等为了赢得叛降的资本，故按兵不动，放了戈登一马。否则，戈登必然全军覆没。李秀成见力敌无望而率军撤退，把守城的任务jiāo给了慕王谭绍光。淮军副将郑国魁是郜永宽的结拜兄弟，在程学启的鼓动下，郑国魁对郜永宽做了许多劝降工作。一天深夜，在苏州附近的湖上，郜永宽等人秘密和程学启签下协议，由戈登作证，商投诚事宜。
李鸿章得知消息后，一面安抚戈登，让他在北门外待命;另一方面假意接受郜永宽等人的投诚。李鸿章之所以假意接受他们的投诚，是因为郜永宽等人要以杀死坚决守城的谭绍光为条件，自己仍然率旧部留守苏州。当时太平军在苏州城内约有 10 万余人，他们答应让出苏州城的一半给清军，而自己的部队不能被拆散，要保持整广建制编入淮军。程学启看到他们这样的条件，于是向李鸿章献计，将降将杀掉。李鸿章认为，他们几人今天能降我，明天也可能降他人。如果他们投降之后再反叛，我岂不是自讨苦吃?如果不允许他们自带旧部，那么苏州城仍然不可得。所以，他依了程氏之计，在苏州城外威武的座船上，大摆鸿门宴，乘机将投诚的太平军八大降王一并杀掉了。
曾国藩对此事评价说，李鸿章心狠手辣，眼明手快。李鸿章对待其他事情的处理上，也有类似的做法，有人说这是“厚黑”。李鸿章做事通常比较注重结果，而不在意过程，这也算是他的某种风格吧。
3.4节 “天京让功”与剿捻主帅
湘军攻打天京许久了，一直没有什么结果。清廷看到淮军作战有力，部前去协助。而当时统军攻打天京的湘军大将，正是曾帅的胞弟曾国荃。说起曾国荃，他和李鸿章还有一点小过节。
早在李鸿章刚投奔曾国藩的时候，曾国藩派李鸿章去曾国荃处办理营务。李鸿章为了对这位老师的弟弟表示尊重，特意拿出一把纸扇，请曾国荃题字留念。曾国荃居然得意洋洋地写了“门多将相文中子，身系安危郭令公”十个字，而且字体欠佳，歪歪扭扭。李鸿章看了之后嗤之以鼻，心想你不过是个秀才，还敢自比郭子仪!真是大言不惭。所以没呆几天他就告辞了。
李鸿章到上海后，曾国荃一再向李鸿章催促粮饷，弄得李鸿章很烦。再加上在几次调用人才的事情上，和曾国藩兄弟意见不一致，李鸿章和他们闹的不是很愉快。有这样几桩事情压着底儿，可急坏了向来好大喜功的曾国荃。一方面，他担心李鸿章来攻天京，会和自己抢功，这是他不能允许的;另一方面，他也清楚现在淮军的力量已经今非昔比，可能会很快收复天京。这样一来，自己这两年多的苦战不就白费了吗?殊不知，这时的李鸿章并不想因此得罪曾氏兄弟。于是，李鸿章就装起病来，在苏州、常州按兵不动，写信催促曾国荃快点行动。并说，自己准备掉头南下去攻打浙江。结果这又惹恼了闽浙总督左宗棠。左宗棠认为李鸿章是有意越境和自己抢功，这样，左、李两人之间又产生了矛盾。
李鸿章实在抵抗不住清廷的再三催促，于是写信给清廷报告自己的攻城日期，然后告诉曾国藩让他们早些行动，自己继续观望。李鸿章手下的将领不知道他的心思，个个摩拳擦掌，准备大gān一场。大将刘铭传对李鸿章说，我们淮军的大pào只要一开，不到三五天就一定能将天京拿下!
1864年 7 月 19 日，就在李鸿章出兵的前一天，曾国荃部用地道埋炸药，轰塌了城墙，一举攻克天京。曾国荃终于拿到了梦寐以求的“首功”。事后，曾国藩拉着李鸿章的手说：我弟弟的面子，是靠你给保住的，我们得谢谢你。由此看出，李鸿章做事很有原则，他不愿意为了争夺眼前的小利益，就去破坏已经存在的某种秩序或者关系，这也显示出了他的高瞻远瞩和大将气度。就这样，曾经轰轰烈烈的太平天国农民运动终于被清政府镇压。然而，“内患”却远没有消除。南方的太平军余部，北方的捻军，还有西北的少数民族起义还在继续活动着。
湘军攻克天京之后，加官进爵的曾国藩却坐立不安。他太jīng于权术，也深谙官场之道。此时的曾国藩身为两江总督，督办江苏、浙江、安徽、江西等四省的军务，他统率的湘军已经达到 30 多万，亲自指挥的湘军就有 12 万人。此外，他还控制着四个省的厘金和粮饷。如此巨大的权势集中在他一个人的身上，岂能不让清廷猜忌!“功高震主”这四个字不时地敲击着曾国藩的心。他不由地琢磨起后路来。
曾国藩开始主动裁撤湘军，以保住清廷对他的信任。他还希望通过保留李鸿章的淮军，作为自己和清廷之间平衡的法码。曾国藩把手中的 12 万人分给了左宗棠、沈葆桢二人，对于朝廷最为担心的曾国藩的嫡系部队(即胞弟曾国荃所部)，曾国藩也进行了大批裁撤，并安排曾国荃以生病为借口回老家调养。