中国古人对石头的崇拜由来已久。石头的永恒、完美和力量是人类敬慕的根源。因坚信灵石具有辟邪之功效，"石敢当"随之诞生。

相传康熙年间，数任知县皆到县不几日，即卒于任上。某黄知县知其事，携一风水先生同赴任。先生察明系本县一座宝塔之影正落于县太爷公座之上，诸官皆因不能经受宝塔之压力而死。遂于县衙前立石碑，刻"泰山石敢当"

五字，谓泰山之力可敌宝塔。此后遂无事。石敢当前加泰山，其用意是借泰山之力以增威。泰山巍峨高大，为历代帝王封禅告祭之所，是一座神圣的山。汉武帝刘彻赞叹泰山"高矣，极矣，大矣，特矣，壮矣，赫矣，骇矣，惑矣"。明太祖朱元璋谓泰山"根盘齐鲁兮，不知其千百里；高耸入云兮，不知几千万仞"。泰山自古以来就被认为是"配天作镇"的，东岳庙里的东岳大帝手里所执的就是作镇之圭。而且泰山之镇与其它山岳不同，它威力无比，镇的是乾坤，因此有"泰山安则天下安"之说。

　　由上述记载可知，石敢当最初是埋于宅内地下用于镇宅驱邪，到明清时期，发展成"泰山石敢当"而用于从最初的镇宅、辟邪发展到驱风、防水，辟邪，止煞、消灾等多种功效。而择日安放并用朱砂书之则效力更强，因朱砂本身就有去秽，挡煞的效力。

　　石敢当在不同的地方有不同的样式，有浅浮雕的，有圆雕的，有的刻有八卦图案；有的什么装饰也没有，只刻有石敢当或泰山石敢当。人们不再将其形状拘泥于一石块，而是将"石敢当"与石狮子或非龙、非虎、非狮的龙九子之四狴犴同刻，以石敢当的勇敢忠诚和石狮子或狴犴的雄伟威力互相合作，增强镇妖驱邪能力，以增强人们的安全感。

　　在中国，除了西藏和新疆，安置泰山石敢当的习俗遍布全国，并流传到东南亚各国以及朝鲜、日本、韩国、欧洲和美国的唐人街。千百年来，人们对"石敢当"的效力深信不疑，"泰山石敢当"也成为中国"石"文化的重要组成部分。