西汉初阳武（今河南原阳东南）人。少家贫，好黄老之术。陈胜起义，他投魏王咎，为太仆。后从项羽入关，任都尉。旋归刘邦，任护军中尉，建议用反间计使项羽去谋士范增，并以爵位笼络大将韩信，为刘邦所采纳。汉朝建立，封曲逆侯。曾随刘邦出击匈奴，在平城（今山西大同东北）被围，他出计厚赂匈奴阏氏（单于之妻），始得出围。惠帝、吕后时任右丞相，以吕氏专权，不治事。吕后死，他与周勃定计，诛杀吕产、吕禄等，迎立文帝，任左丞相。