瓦岗军首领翟让，本来是东郡的一个小吏，因为得罪了上司，被打进牢监，还被判了死罪。有个狱吏同情他，跟他说：“我看你是条好汉，怎么能在牢里等死呢。”一天夜里，狱吏偷偷地砸了镣铐，打开牢门，把翟让放了。

    翟让逃出了牢监，逃到东郡附近的瓦岗寨，招集了一些贫苦农民，组织了一支起义队伍。当地一些青年人，听到这个消息，都来投奔他。其中有一个青年叫徐世勣（音ｊī），年纪才十七岁，不但武艺高强，而且很有计谋。

    徐世勣劝翟让说：“这里附近都是贫苦的老乡，我们不应该去打扰他们；我看荥阳一带，来往的豪门富商很多，不如到那里去筹办点钱粮。”

    翟让听从徐世勣的意见，带领农民军到荥阳一带，专门打击官府富商，夺取大批资财。附近农民来投奔翟让的越来越多，很快就发展到一万多人。

    李密投奔翟让以后，帮助翟让整顿人马。那时候，附近各地还有一些小股的农民队伍。李密到各处去联络，说服他们联合起来，听从翟让指挥。翟让十分高兴，跟李密渐渐亲近起来。