三祖禅寺位于安徽省安庆市潜山县境内天柱山上，南朝时属庐江郡。魏晋南北朝是佛教在中国的一个大发展时期，尤以梁武帝时期为最盛。三祖禅寺即在此时开山建刹。禅宗三祖寺又名乾元禅寺，始建于公元505年，为南朝国师宝志禅师开创，梁武帝赐名山谷寺。隋初，禅宗三祖僧璨来此弘法教学，并传衣钵给四祖道信，于公元606年在此立化，故称三祖寺。

禅宗三祖驻锡山谷寺
    齐梁之交，达摩法师渡海将禅法带到中国，被誉为中国禅宗初祖。达摩与梁武帝萧衍应对不契，于是一苇渡江，来到北魏少室山五乳峰石洞面壁9年，参禅打坐、伺机传法。后遇慧可“断臂求法”，达摩将“教外别传，不立文字”的禅法、衣钵传给慧可，慧可因此被尊为中国禅宗二祖。北齐天保初年（公元550年）有一居士，不言姓氏，年逾四十，到二祖慧可处请开示佛法，二祖赐名僧璨。是年的3月18日，僧璨在光福寺受足具戒。后北周武帝宇文邕“灭佛”，僧璨随二祖慧可南遁隐居，往来于司空山和皖公山（今天柱山）之间长达15年之久，后接衣钵，是为禅宗三祖。隋开皇十年（公元590年）僧璨正式驻锡山谷寺（今三祖禅寺），公开弘扬禅法。
    在禅宗发展历史上，僧璨是一个重要的坐标。禅宗初祖达摩在南朝时将禅法带到了中国，当时人们是遇而未信，至二祖慧可时，人们是信而未修，在三祖僧璨时是有信有修。他对禅宗的汉化改造发展，有几个明显的表现。其一，变面向达官显贵为面向下层群众。佛教初入中国，信仰接触者多为贵族，僧璨改变靠上层弘法的方略，变为在村夫野老中随缘化众；其二，变在都市城廓建寺院为在深山僻壤布道场；其三，变居住无常的“头陀行”为公开设坛传法；其四，变“不立文字”为著经传教。禅法初传，有“不立文字”之说，主张静坐安心渐悟法门。僧璨在公开弘法的同时，精心著述《信心铭》。《信心铭》以诗体写成，一百四十六句，四字一句，五百四十八个字，从历史与现实，祖师与信徒、教义与修持的结合上，阐明义理，大开方便，应机施教。僧璨大师《信心铭》是禅宗祖师的第一部经典，字字有声，句句铿锵。宋代大政治家、文学家王安石在《璨公信心铭》一诗中赞曰：“沔被有流，载浮载沉。为文以济，一壶千全。法譬则水，穷之弥深。璨公所传，等观初心。”这是对《信心铭》的肯定与颂扬。有人称《信心铭》是中国禅宗史上第一部经典，为禅宗以文字总结其修习经验开创了理论先河。
    禅宗作为佛教的一个支派，自达摩西土东来，二祖慧可断臂求法，传至僧璨，方使之中国化，畅行于世，成为汉传佛教中最具中国特色的宗派之一。

因三祖而得名“三祖禅寺”
　　在山谷寺的历史上，还流传着一个三祖僧璨为四祖道信解缚的“公案”。
　　佛教典籍记载，隋开皇十二年（公元592年），沙弥道信来到皖公山山谷寺，礼谒三祖僧璨，求曰：“愿和尚慈悲，为我解缚。”三祖问：“是谁将你缚住了？”道信答：“无人缚我。”三祖僧璨大师又问：“既无人缚你，那你又求何解缚？”道信闻言大悟，后又随三祖修学九载，接法是为禅宗四祖。
　　隋炀帝大业二年（公元606年），三祖大师说法时合掌立化。唐天宝四年（公元745年），舒州别驾李常取僧璨的遗骨火化，得到五色舍利300粒，用其中100粒塑造三祖像，又拿出自己的俸禄，为其建造一座三祖舍利塔，把三祖的塑像放置于塔的底层。
　　唐乾元元年（758年，）肃宗李亨赐山谷寺名“三祖山谷乾元禅寺”。公元772年，唐代宗李豫谥僧璨名“鉴智禅师”，赐三祖舍利塔名“觉寂塔。”后来，寺院和塔多次被毁和重修。现在的塔，塔宫里珍藏有三祖百颗舍利子，唐代的塔基、宋代的塔刹、明代的塔身。宝塔为楼阁式塔体，砖木结构，飞檐翘角，斗拱相乘。塔为5层，外旋中空，螺旋而上。每层4门相对，两虚两实。游人登塔，常被虚实所迷。塔顶置有相轮，由8条碗口粗的铁链牵制，链上系有400余只风铃。风吹铃动，叮当悦耳。

三祖禅寺变迁
　　北宋时期，三祖禅寺的香火达到鼎盛时期。宋太平兴国七年（公元982年），舒州山民柯萼遇一老僧指点，于万岁山（今天柱山风景区的玉镜山）古松下掘一石篆，上镌南梁高僧、三祖禅寺开山祖师宝志手书“圣祚绵远”四字，进呈于朝。太宗赵光义为此石篆取名“瑞石”，并遣使至舒州三祖禅寺，颁诏臻谢，谥宝志名“宝公”，赐号“道林真觉禅师”。
　　宋天圣六年（公元1028年）三月，为给仁宗赵祯增寿，朝廷选舒州三祖禅寺为道场，建“资寿宝塔”一座，并赐佛牙舍利，监藏于塔座之下。同期，三祖禅寺也高僧辈出，宗风大振。时有“禅林谁第一，此地冠南州”之誉。
　　此后，三祖禅寺几经损毁，历经沧桑磨难。南宋末年，元兵南侵，寺院被毁，直至明朝中叶，方得以重建，史称中兴。明末再毁，整个清朝时期乃至民国，仅得以维持香灯不灭，呈衰败状态。
　　1979年后，历经近30年的建设，寺院整体结构得以逐步恢复。