合室小学地处市区北5千米羊神山脚下的合室村，是境内历史悠久且具特色的一所学校。其前身是潞城县第五高级小学校，始建于民国17年（1928）6月是当时全县仅有的五所高校之一。民国23年（1934）改名为潞城县第三义务教育实验区小学校。抗日战争期间停办，1945年复校，并改称初级小学。1952年冬，在初级小学的基础上增设高级班2个，成为境内第一所完全小学。
20世纪70年代，本校多年夺得全县教学质量第一名，被教育局确定为全县三所重点小学之一。1976年受到省政府大会表彰，到80年代，在学校的不断努力下，乡、村两级联合投资8万扩建70余间教学和生活用房，建筑面积1200平方米。学校占地面积由原来的2400平方米增至3133平方米。特别是在1985年，中、小学校分级管理后，学校工作更加趋于科学合理，为合室小学进一步发展创造了更加有利的条件。
1994年本校在全市率先创办了寄宿制小学，先后吸收全乡北9村，四、五年级学生入学，受到长治市政府表彰。1995年后，在抓好教学质量的同时，很抓写字教学，培养了大批书法人才，被省政府命名为书法特色学校。1998年11月参加中国教育协会书法教育专业委员会在北京组织的发奖大会，在大会上交流了《提高教师素质是搞好写字教学实验的基础》的经验。被大会确定为全国书法实验校。在这期间和以后的发展中，本校的寄宿制规模不断扩大，先后使全合室乡除南四村外，所有村级小学的学生全部入学——合室寄宿制小学。优化了教育教学结构，提高了教育教学质量。
2004年前后，经过多方筹资、投资15万元，先后修缮教学用房50余间，并新盖东前排教室8间，建筑面积达到1460平方米。随着教育教学工作不断更新发展，增置了农村远程教育工程设施。2008年原申庄乡九村各小学（乡镇撤并、生源减少、不达办学规模，为了整合教育教学资源）全部并入合室寄宿制小学，使学校规模更加扩大。为适应新的教育教学形势，改善师生生活条件，学校筹资3万元扩充规范了师生食堂，食堂面积达到60平方米。并在上级部门的支持下增设多媒体教室一间。更新了教学资源，增强了教学手段，开扩了师生视野，提高了教育教学质量。
合室小学在近百年的征程中，一路坎坷，从一所古庙发展至今，占地面积9860平方米，建筑面积1460平方米，专任教师24名，全部为大专学历，其中小学高级教师10名，小学一级教师14名，师资力量雄厚，岗位合格率100%。学生250多名，住宿生70余名，教学设施逐步完善。可以说合室小学就是一部教育发展的历史。