唐华州郑县（今陕西华县）人。以武举异等累官至朔方节度右兵马使。安禄山叛乱发生后，任朔方节度使，以本军东讨。天宝十五载（756），与河东节度使李光弼下井陉，在河北击败史思明。旋闻潼关失陷，主动撤出河北。肃宗至德二载（757），充关内河东副元帅，配合回纥兵收复长安、洛阳。乾元元年（758）加中书令。二年，与李光弼等共九节度之师，攻相州（今河南安阳），为史思明所败。以此失兵权。肃宗末，仍为副元帅，封汾阳郡王。代宗时伫固怀恩叛变，纠合回纥、吐蕃攻唐，他说服回纥贵族与唐联兵击吐蕃。德宗即位，尊为尚父，进位太尉、中书令，罢兵权。