经过修整之后，上元元年的二月，唐军改被动为主动，李光弼率军进攻怀州，史思明亲自来救。十一日，双方会战于沁水岸边，这次可是野战了，可史思明还是没能实现愿望（这回他该不再嘴硬了吧，自认为野战qiáng于李光弼，怎么还是输了？）。此战唐军获胜，杀死叛军三千余人。三月，李光弼在怀州打败了安太清，四月又在河阳城西huáng河中的沙洲上打败了史思明。但怀州仍在固守，李光弼又用起了“土拔鼠战术”，挖了个地道，让仆固怀恩、郝廷玉由地道而入，这么着将城攻下，活捉了史思明那里的重要人物安太清、周挚等人，平定了怀州。
于是，为了犒赏李光弼的功劳，肃宗进封他为临淮郡王，累加实封至一千五百户。至此，唐军在李光弼副元帅的领导下，无论是守是战，都还是比较顺利的。李光弼和史思明的对抗中，李光弼仍然是占据着优势。
三、史思明得偿宿愿
自从河北相遇，除了那次九节度之败，李光弼对史思明的“单挑”几乎是全胜纪录。好容易有一次能抓住李光弼的机会，史思明满以为可以“得逞”，不想部下却反叛——哇呀呀，真气杀人也。史思明一定有这么个宿愿，就是打败李光弼。
本来自然状态下李光弼自己也不太容易出差错，但天算不如人算，倒是肃宗为史思明提供了这么个机会。
收复怀州后，唐军的形势很有利，如果接着这么打下去，叛乱也许能平定——虽然后来也是平叛了，但如果这时坚持李光弼的“猿臂策略”，或许又是一个提前结束叛乱的好时机。然而，上元二年（公元761年），李光弼也不得不从副元帅的位子上下来了。
此时唐军不是正有利吗？于是有人认为唐军现在完全可以拿下东都——“洛中将士皆燕人，久戍思归，上下离心，击之，可破也。”叛军士兵想家不假，但战争的胜负可不只是一个思乡就能决定胜负的，而且人家也没到上下离心的地步，真是盲目乐观了。《新唐书》说这是史思明派出来的间谍故意这么说，然而鱼朝恩对这些话信以为然，多次在肃宗面前提起。一听现在可以拿下东都，那还有不高兴的么，所以肃宗也动心了，下命让李光弼去攻取洛阳。李光弼上奏说：“叛军士气还很盛，请让我相机而动，现在不可轻易进军。”
肃宗对元帅的话当然不能不考虑，可是他自己也不确定究竟李光弼说的对不对，毕竟洛阳这块“大肥肉”的诱惑力还是很qiáng的。说洛阳是“大肥肉”，其实不是，因为洛阳经过几年战乱，早就不“肥”了，就算肥，脂肪太多对健康也是不利的。我更想把洛阳比做“jī肋”，食之无肉，弃之可惜。洛阳四面为敌易攻而难守，便是拿下也不好守，如果在这里花太多jīng力、人力、物力，一旦丢失则心血白花，所以食之无肉；可偏偏洛阳又是个东都，单是这名头就足以让肃宗不顾一切的要收回它。肃宗此时不知道到底该听谁的，于是就多方求证，当然，如果能碰到和自己一方提相同意见的更好。结果还真遇上了一位，是谁呢？仆固怀恩。
仆固怀恩骁勇善战，但为人刚愎自用，他所部之人都是蕃、汉劲旅，他们依仗有功，横行霸道，做了许多违法乱纪的事情，当初郭子仪对他们很宽厚，委曲包容，每次在临敌之际，都要依靠他们去行事。但到了李光弼手下，仆固怀恩的将士们日子就不好过了，因为李光弼军法极严，对这些违纪之事从不包容。可以想象，大营中有一群违纪之徒跪在地上，李光弼在上面冷冷的向下看着，问：“带领你们的将军是谁？”然后几人牙齿打颤的说：“仆固怀恩。”那么仆固怀恩是很没面子的。因此仆固怀恩既怕李光弼，又对他十分厌恶。这时肃宗问到了他，他就偏和李光弼反着来，说洛阳可以攻取。不过，从后面看得出，仆固怀恩这么说也不完全是有意做对，他或许也认为洛阳是可以拿下来的。但也有观点认为是仆固怀恩忌恨李光弼功劳太大，所以想让他这次失败，好由自己顶替他，唐书即持此论。不过仆固怀恩很服气郭子仪，难道郭子仪功劳不比他大么？至于有意使己方失败，仆固怀恩也未必会如此，他对唐朝其实还是很忠心的，至于最后的背叛，实属无奈。
好了，有了仆固怀恩的支持，肃宗便认为现在攻取洛阳是理所应当，李光弼那一次次请求伺机而动的奏章他再也看不下去，派出一个接着一个的宦官来催促，督促着李光弼出师。最后，李光弼迫不得已，只好硬着头皮出军了。这个情形和哥舒翰当年被迫出兵潼关很相像，李光弼当时和郭子仪都反对潼关守军出兵，现在没想到李光弼自己也遇到了相同的事情。当时哥舒翰是抢天大哭，不知李光弼接到最后一道诏书时，是否也这样哭了一次呢？
李光弼先派出李抱玉去镇守河阳，自己则与仆固怀恩率众会合鱼朝恩及神策节度使卫伯玉进攻洛阳。二月二十三日，唐军在邙山排开阵势。李光弼下令让军队依险布阵，而仆固怀恩却在平原布阵，他认为己方用的是骑兵，骑兵在险峻之处多有不便，所以应该在平原列阵。李光弼对他说：“依险布阵，可以进攻，也可以退守；如果在平原布阵，jiāo战不利就全完了，而且叛军必欲致我们于死地，不如守在险要之地。我们不能小看史思明。”又命令军队转移到险要之处，但又被仆固怀恩制止了。李光弼还没来得及和仆固怀恩争论，也就是说，唐军骑兵在平原那里待命，而主帅这里还在争吵，那这情势就很不利了。这时，史思明乘唐军阵势还没布置完，就发起进攻。《新唐书》写的过程稍微详细一些：“贼据高原，以长戟七百，壮士执刀随之，委物伪遁。怀恩军争剽获，伏兵发，官军大溃。” 叛军仍然是用起了诱敌之计，这回用的是物资，所以唐军就去争着抢夺，被伏兵打的一团糟。结果唐军大败，死伤数千，军资器械又是全部丢弃。李光弼和仆固怀恩只好渡过huáng河，退保闻喜，而鱼朝恩和卫伯玉则逃回陕州，李抱玉也弃河阳而逃。这样，河阳、怀州重又陷入叛军之手。此次大败，使肃宗大为惊恐，赶快增兵驻守陕州，生怕长安失守、皇帝出逃的往事会再重演一次。
战败后，李光弼向肃宗请罪，固求自贬。《新唐书》在此记叙的比较详细，据说肃宗认为这是仆固怀恩违反军令导致失败，所以也没怎么责备李光弼，至于仆固怀恩，当然也没处罚，因为后来继任李光弼的就是他。肃宗不以败军处罚郭子仪、李光弼，真的是比较宽厚了（不知为什么，玄宗诛杀高、封二人总让我耿耿于怀），不过这两个人谁都杀不得也是事实。于是肃宗优诏召李光弼入朝。五月初五，李光弼从河中入朝，辞去太尉，肃宗改拜他为开府仪同三司、中书令、河中尹、晋绛等州节度使，其实就是从一个高官变成另一个高官，变化并不大，只算是象征性的贬官而已，不久，又拜为太尉，兼侍中、河南副元帅，知河南、淮南东西、山南东、荆南五道节度行营事，镇泗州，肃宗为他赋诗饯行。肃宗的诗现存就两首，如果把其中一首三章的诗分成三首，也只有四首而已，我们是不知道他当时怎么写的这首诗，但不管好坏，皇帝心意已到。