唐并州太原（今山西太原西南）人，字怀英。以明经举，任并州都督法曹。转大理丞，断滞狱一万七千人，无冤放者，迁侍御史，历任宁州，豫州刺史等职，天授二年（692）任地官侍郎，判尚书，同凤阁鸾台平章事，后为来俊臣诬陷下狱，贬彭泽令，转任魏州刺史，幽州都督，神功元年（697）复相，后突厥进扰赵。定等州，他任河北道行军副元帅，河北道安抚大使等职，入为内只，劝止武则天造大佛像，又以母子恩情为言。劝则天召还中宗，并推荐张柬之等数十人，知人善用，后追封梁国公。