唐邢州南和（今属河北）人。调露进士。累迁至左御史台中丞，居官鲠直，为武则天所重。睿宗时升任宰相，力制外戚、公主干预朝政，改革选举流弊，选拔人才。后因奏请太平公主出居东都，贬为楚州刺史。开元四年（716）冬，继姚崇任宰相（黄门监，次的改名侍中）。主张宽赋役，省刑罚，减少边镜纠纷，禁销恶钱，选择人才，史称他善守法持正。八年，以禁恶钱事操之过急，颇为烦扰，罢知政事。后历任京兆留守等职。二十一年，以左丞相致仕。