在宝应元年（公元七六二年）的四月初五，玄宗太上皇辞世，享年七十八岁。肃宗也在此之后因病离世。至四月二十日，广平王李俶继位，成为代宗。面对国家的动荡不安，代宗在九月初派出了使者仆固怀恩前往回纥，旨在修复两国旧日友谊，并向回纥请求援助出兵对抗史朝义。尽管最初登里可汗心存犹豫，但在怀恩的再三劝说下，最终同意出兵相助。
十月，雍王李适被任命为天下兵马元帅，各路军队与回纥军队在陕州集结，共同讨伐史朝义。尽管代宗希望李适担任副元帅，但宦官鱼朝恩和程元振的反对使得仆固怀恩最终担任了这一职务。
战事顺利发展，怀恩成功攻下东京和河阳城，并俘虏了史朝义的中书令许叔冀、王伷等人。怀恩巧妙地将回纥军队留在河阳，而自己则派遣儿子仆固葫率万余步骑追击史朝义。在郑州的两场战斗中，官军均取得胜利。史朝义逃至汴州时，陈留节度使封锁城门，拒绝其进入；他试图逃到睢阳与田承嗣会合，却又在莫州被仆固葫击败。长驱直入至昌乐的官军在东面对战史朝义时再次取得胜利。
邺节度使薛嵩向唐泽潞节度使李抱玉投降，恒阳节度使张忠老也向唐河东节度使辛云京投降。史朝义逃至莫州时，田承嗣背信弃义，见大势已去便投降了官军。与此史朝义的范阳节度使李怀仙也已投降朝廷，并派遣兵马使李抱忠带领三千士兵镇守范阳。当史朝义试图进入范阳时，却被李抱忠拒之门外。最终，史朝义在走投无路的情况下于温泉栅自缢身亡，其首级被李怀仙献给朝廷。这场历时八年的战乱终于宣告结束。