大业七年(611)，东郡法曹翟让因犯罪而被下狱，狱吏黄君汉私自释放了他。于是，他逃亡瓦岗(今河南滑县东南)聚众起义。同郡的单雄信、徐世勣也都前往参加。他们在永济渠沿岸劫夺来往船只，以致“资用丰给，附者益众”，起义队伍逐步扩大起来。

　　大业十二年(616)，贵族出身的李密，在参加杨玄感起兵失败后，投奔瓦岗军。李密较有*眼光，他建议翟让积极发展势力，扩大影响。翟让重视李密的建议，首先攻取了荥阳。

　　荥阳是中原的战略要地，向东是一片平原，向西是虎牢关。虎牢关以西的巩县有隋的大粮仓洛口仓。取得洛口仓不仅可以得到大量的粮食，而且已逼近东都洛阳。可见，夺取荥阳是瓦岗军发展势力的重要一步。

　　面临强大的瓦岗军，荥阳太守杨庆无可奈何，隋炀帝特派“号为名将”、“威振东夏”的张须陁为荥阳通守，镇压瓦岗军。李密认为张须陁勇而无谋，遂建议翟让与张须陁正面接战，佯败而北走。李密率精兵埋伏在荥阳以北的大海寺附近，张须陁紧跟翟让十余里，到大海寺以北的林间时，李密伏兵四起，隋军陷入重围。张须陁本来掉以轻心，更加突如其来的强兵，使他措手不及，战败被杀。这次失败，隋军“昼夜号哭，数日不止”。可见，这次瓦岗军的胜利是对隋炀帝政权的沉重打击。

　　大业十三年(617)二月，瓦岗军攻取洛口仓，并开仓济贫。贫苦农民大量参加起义军。隋朝在洛阳的越王侗派遣虎贲郎将刘长恭率军二万五千人前往镇压。翟让、李密预先侦知了隋军的动向，作了周密的部署。刘长恭对瓦岗军的情况则一无所知，表面看到瓦岗军的人数不多，遂麻痹大意起来，瓦岗军乘隋军初来乍到，饿饥疲惫之时，大举进攻