少林寺创建于北魏孝文帝太和十九年(公元四九五年）。

当时，天竺僧人跋陀由西域来到中原，得到虔信佛学的孝文帝的礼敬。

跋陀游历中原时，见嵩山很象一朵莲花，便有意在花中立寺，孝文帝遂在少室山建造少林寺供养跋陀。

后来又过三十余年，南天竺僧人菩提达摩来到少林寺，广罗弟子，传授禅宗，成为中国佛教禅宗的开山祖师。

少林派，素来被称为武林第一门派，号称中原武林的泰山北斗。少林寺僧众习武源远流长。

南北朝时，后魏孝文帝大和年间（公元四七七年-公元四九九年），达摩大师从梁国北来，面壁于嵩山少林寺，历时九年而功成，遂传《易筋》、《洗髓》二经，创立少林武术。唐代李靖又写了《易筋经序》。

历史上，在达摩以前，北朝寺院的练武风气就已形成。少林武术的发扬光大，始于隋唐之际的一件大事。

隋朝未年，天下大乱，秦王李世民与郑帝王世充作战，少林武僧应邀相助，活捉王仁则，逼降王世充，这就是著名的“十三棍僧救唐王”，

李世民即位后对少林寺大加赏赐，少林寺再度兴旺起来，少林武术也开始繁荣发达，逐渐成为中原武林第一门派。

大宋开国之君赵匡胤与少林寺的渊源也是颇深的，赵匡胤出生在洛阳夹马营一个军人之家，他父亲是一名将军。

赵匡胤自幼便在军营中长大，耳濡目染，潜移默化的喜欢上舞刀弄棒的武术，梦想成为武林高手；军营里的将士们，都很喜欢这个聪明的小孩，闲来无事，总要点拨一二。