唐齐州历城（今山东济南）人，字叔宝。大业中，为隋将来护儿帐内士卒，后随张须镇压卢明月、李密等义军。不久降于节密，任帐内骑。李密败后，为王世充所行，旋弃之投唐，任马军总管。从李世民战败宋金则、王世充，镇压窦建德、刘黑闼农民军。常跃马挺枪，刺敌将于万众之中。官至左武卫大将军，封胡国公。