隋河南洛阳人，字次武，出身公卿之家，好读书。北周时为安固太守，善决狱，蜀中号为“明断无双有于公，不避强御有次武。”周末，为东郡太守，守郡御尉迟迥，力尽突围，子女悉遭杀害，因得杨坚信任。进大将军，任河南道行军总管，率军攻灭尉迟迥将檀让等部。入隋，为行军元帅，统兵御突厥，又曾参加灭陈之役。大业时，迁右翊卫大将军，进光禄大夫，甚见亲幸。辽东之役，诸将受他节度，但各行其是，败归。他因之被炀帝除名拘留，气愤而死。