这小鬼见到石敢当害怕不已，便匆匆逃跑。后来在当地，还有很多小鬼经常来捣乱，可是石敢当也不能每天都抓小鬼，便把自己的名字刻在石头上，让乡亲们盖房子的时候， 把石头砌在墙壁上。

久而久之，这种习俗便被保留了下来，每家每户在墙上都会立这样的一个石碑，用来震慑小鬼。千百年来，石敢当在人们心中的地位就变得极其的重要，尤其是安居乐业的时候，常常会说，这是“泰山石敢当”的功劳。

还有一种传说，这泰山石敢当就是姜子牙。在很久以前，周文王就让姜子牙管理泰山地区，这里年年风调雨顺，五谷丰登，深受百姓爱戴。

后来封神之后，各位神将都封神完成，只有自己还没有封神。姜子牙指着山头说道：我是泰山石敢当。于是，就化成了石碑“泰山石敢当”。后人为了表示尊敬，专门用“泰山石敢当”来纪念姜子牙。

我们最早出土关于“石敢当”的石碑是在唐朝，考古学家讲述：在宋庆历年间，每当人们搬迁移居，都会在工地上挖出来一块石碑。碑上有：石敢当，镇百鬼，厌灾殃，官吏福，百姓康。风教盛，礼乐张。唐大历五年四月十日。可见在唐宋时期，石敢当就已经进入人们的生活中。

而关于“石敢当”的文字记载，最早是在西汉， 《急就章》中记载：师猛虎，石敢当，所不侵，龙未央。要知道在古代，《急就章》是儿童必读书，如果石敢当是一个人，那必然是对人们做过丰功伟绩的，不然不会被儿童所接受，但是考古学者表示，在诸多古著作中，很难找到古代一个姓石的大英雄。

明代文人陈断儒在他的《群碎录》中写道：五代汉刘知远时，有勇士名石敢当，其慕古人名以自表见耶？作者表示，石敢当是五代的一个勇士，至于真实性不得而知。