唐颍川（治今河南许昌）人，世居滑州匡城（今河南长垣西南）。初事舅父宣武节度使刘玄佐为州掾，迁宋州南城将。又事刘全谅，署都知兵马使。全谅死，军中推为留后，任检校工部尚书，充宣武节度副大使知节度事。杀汴军恣横者刘锷等三百余人，自是二十余年无敢叛乱者。宪宗即位，加同平章事。曾任淮西诸军行营都统，讨吴元济，而阴为逗挠计。后封许国公。元和十四年（819）李师道被杀，始惧而入朝，请留京师。次年，出为河中节度使。