琅琊寺建于唐大历年间（766-770年），由滁州刺史李幼卿与僧人法琛创建，唐代宗李豫赐名“宝应寺”，崔祐甫为它撰《宝应寺碑》。后周显得年间（954-960年），寺毁，刺史王著予以重修。宋朝时几次重修扩建，太平兴国三年（978年），宋太宗赐额“开化禅寺”，亦称琅琊寺，《募修滁州琅琊山开化律寺大雄宝殿缘起》记载：“自唐大历中李幼卿为刺史，搜奇探胜，于深山处建开化禅院，是为有寺之始；又于山罅中疏泉凿石池曰：庶子泉。李阳冰篆铭。又有吴道子画观音及须菩提像。寺前后复有明月池、观音泉、琅琊溪；山巅有日观亭，寺后有雪鸿洞、归元洞诸胜迹，皆于此者相辉映。宋仁宗时，且在山中建御书阁，藏四朝御书，以艺祖立功发迹之所故也。……环寺多摩崖书，皆名人游者所题，自宋皇祐、淳熙、乾道以来有之。”

   元朝末年，开化寺毁于兵燹。明朝洪武六年(1373年)僧人绍宁、无为予以重修。规模宏大，殿堂巍峨。据《琅琊山开化禅寺》记载：“洪武元年。宋学士濂，扈从东朝来游，尚有所谓华严池、明日溪、归云洞、千佛塔、大历井、琅琊洞，又有禅室、琴台、茶仙亭、会峰亭……无心亭、轩、秀岩堂、瑞竹堂、童行堂、了了堂、招稳堂一十余所。”

  清嘉庆年间(1796?/FONT>1820年)，皓清法师予以重建，改额“开化律寺”。咸丰年间(185l-1861年)毁于战火。清光绪三十年(1904年)，达修法师住持开化寺，重建寺院，又称琅琊寺。

  中华人民共和国成立前夕，琅琊寺有僧人12名，殿堂房屋60余间，田产2700亩。

  中华人民共和国成立后，僧人也分得了土地、山林，从事力所能及的生产劳动，生活自养。

  1952年，政府拨专款，对琅琊寺进行了维修。1956年，安徽省政府将琅琊寺列为省级文物保护单位。当时，寺内常住僧人有4名，根如法师任住持。1961年，根如法师圆寂后，超然法师任住持。

  1983年，琅琊寺被国务院列为汉族地区佛教全国重点寺院，并于19以年底交给僧人管理使用，作为佛教活动场所对外开放，果圆法师任住持。1985年农历八月十五举行了佛像开光仪式。

  近些年来，在政府的支持下，琅琊寺对殿堂亭阁进行了全面维修，大雄宝殿、韦驮殿、玉皇殿、藏经楼等修葺一新，殿内佛像、菩萨、罗汉像等次第重塑。寺内还添置了各类法器，有五千多斤的铸铁钟，3.5米高的万年宝鼎，直径1米的法鼓和大香炉，还有幡、经书等，把寺庙装点得幽静肃穆，使琅琊寺成为滁州市佛教活动的中心。