唐滑州灵昌（今河南滑县西南）人。先世家范阳。举进士。历监察御史，吏部员外郎。中宗景龙中，迁右御史台中丞，上疏陈时政，请综核名实，减省冗官，严罚贪污。不纳。累迁黄门侍郎。玄宗开元初，与姚崇同相，自知吏道不如姚崇，每事皆推让之，遂有“伴食宰相”之称。然清俭不营产业，以直道始终，临终遗表，荐宋景、卢从愿等，深受玄宗赞许。