寄言世上雄。虛生真可愧”。

眺聽很多感。慷慨獨沾襟。

不久。王仲伯分開李密偷偷回至天水，李密則逃到淮陽(河南淮陽)，住在村中，改姓名劉智遠。當起了私塾先生。幾個月間，李密鬱鬱不得誌，便作了一首五言詩，哀歎本身的苦楚處境：

走投無路的李密在翟讓的部將王伯當的保舉下於大業十二年(616)十月，投奔翟讓。

李密來到瓦崗軍後，此中有人曉得李密是楊玄感的亡將，朝廷通緝欽犯，能夠是怕招來朝廷的大範圍圍殲因而暗中勸翟讓將李密撤除。李密聞後，心中大懼，便通過翟讓部將王伯當向翟獻計：“今主昏於上，人怨於下，銳兵儘之遼海，和親絕於突厥，南巡流連，空棄關輔，此實劉、項挺興之會。足下資豪桀，士馬精勇，指罪誅暴，為天下先，楊氏不敷亡也”。翟讓聞後，說：“吾儕群盜，朝夕偷生草間，君之言者，非吾所及也”。今後對李密禮遇有加。

一朝時運合，萬古傳名器。

當時有個叫李玄英的人，從東都逃出來，在眾義兵中尋訪李密，並雲“斯人當代隋家”。彆人問其故，李玄英說：“比來官方謠歌有《桃李章》曰：‘桃李子，皇後繞揚州，宛轉花圃裡。勿浪語，誰道許！’‘桃李子’，謂流亡者李氏之子也；皇與後，皆君也；‘宛轉花圃裡’，謂天子在揚州無還日，將轉於溝壑也；‘莫浪語，誰道許’者，密也”。待與李密相遇後，遂委身事之。另有前宋城尉齊郡人房彥藻，自大其才，但卻冇法發揮，因此參與了楊玄感之事。楊玄感失利後，房彥藻隱姓埋名，成果在梁、宋之間，碰到了李密。此時，翟讓命李密遊說鄰近的小股義兵，李、房二人以身相隨，所至皆附。翟讓見李密為豪傑所歸，欲從其計，但躊躇未決。

張須陀曾彈壓山東地區多支農夫叛逆兵，在當時馳名將之稱。在李密來到瓦崗之前翟讓多次為其所敗，故對其甚是顧忌，一聽是張須陀帶兵前來，心中大懼，欲率軍遠避其鋒。這時李密便對翟讓說：“須陀勇而無謀，兵又驟勝，既驕且狠，可一戰而擒。公但佈陣以待，保為公破之”。這時對李密有點言聽計從的翟讓隻好硬著頭皮不得出戰，二十七日，李密率勇猛常多麼二十報酬遊騎，分兵千餘人於大海寺(河南滎陽)北林內設伏。翟讓以主力從正麵迎敵，張須陀軍以方陣進擊，翟讓率軍接戰後便退。張須陀夙來輕視翟讓，見瓦崗軍敗退，覺得有機可乘，遂率軍追擊十餘裡，至大海寺四周，李密伏兵四起驟起，翟讓也回軍反攻，張須陀兵敗。李密又讓徐世勣、王伯當將張須陀軍合圍，顛末苦戰，大敗隋軍，殺張須陀，其副將賈務本受重傷後率殘部5000餘崩潰。