西汉会稽（治今江苏苏州）人。宣帝时，任侍郎，屯田渠犁（今新疆库尔勒和尉犁西），攻破车师，迁卫司马。神爵二年（前60），率兵迎匈奴日逐王归汉，被任为西域都护，治乌垒（今新疆轮台东北）。汉朝设置西域都护自此始。后封安远侯。