静帝立后不久,禅让于大丞杨坚,杨坚称文帝,国号隋。这个在尼姑庙里出生并由一个尼姑抚养成人的隋文帝,对佛教更是大力扶植,他把陟岵寺恢复旧名,仍称少林寺,并赐柏谷屯田100顷,以供寺僧食用资费,少林寺又渐渐佛业兴隆。
少林寺在古文献上开始有武功记载,就是隋末“拒贼”。隋炀帝大业年间,天下大乱,各地农民纷纷起义,当时的少林寺,常住财产丰富,畜有奴仆,便成为起义农民的攻击对象。寺内有僧徒数百,亦有许多练武的僧人,和起义军对抗。后来不知胜败如何,但少林寺却被起义军纵火焚烧,把整座寺院焚毁。
少林寺遭了这一场大灾劫,元气大伤。到了唐王朝第一代皇帝李渊的时候,他的儿子李世民后来的唐太宗)以太尉、尚书令、秦王等身份,率兵进攻洛阳的王世充。李世民曾写信给少林寺的和尚,要他们助战,僧人以昙宗为首的13个和尚,率领僧人下山,先解救了被王世充围困的李世民,然后逼降王世充,生擒王世充侄儿王仁则,为唐太宗立下了汗马功劳。昙宗被封为大将军,其余12人不欲授官,正是“时危聊作将,事定复为僧”。唐太宗各赐紫罗袈裟,还赐少林寺大量银两,田地40顷,水碾一具。唐太宗还准许少林寺设有“僧兵”,准许和尚习武,而且还认为练武则不能缺少营养,竟御准少林和尚食肉。