唐渤海靼族人。本姓茹，先世迁居幽州。父常为朔方军将官，因战功赐姓。少从军，为郭子仪所信用。大历十三年（778）任邠、宁、庆三州都将。德宗即位，罢郭子仪副元帅，分兵权，始以他为邠宁节度使。既而又兼泾州刺史、泾原四镇北庭节度使。建中二年（781）迁朔方节度使。四年，以泾原兵变，率部至奉天救德宗，屡破朱此叛军。旋以卢杞等谗，举兵叛唐，而将士愤恨，乃退回河中。唐马燧、浑瑊讨河中，朔方部将牛名俊杀之而降。