1927年，沂蒙山区第一个党支部——中共沂水支部建立。30年代初，中共地方党组织领导发动了沂水、苍山、龙须崮等几次较大的武装暴动，进行了革命武装斗争的尝试。1938年，党中央先后派遣徐向前、罗荣桓率八路军115师深入山东，开辟了沂蒙山革命根据地。从此时到全国解放的12年间，沂蒙山区作为八路军115师司令部、中共中央山东分局、新四军军部、华东军区等党政军机关的所在地，成为华东地区革命斗争的指挥枢纽和全国著名的革命根据地，被誉为“华东延安”。在这片英雄的土地上，留下了刘少奇、徐向前、罗荣桓、陈毅、粟裕等老一辈革命家和领导人战斗、工作的大量革命遗迹。1945年抗战胜利后，山东抗日武装几乎全部开赴东北，抢占东北战略要地，奠定解放战争的第一块基石。解放战争中的孟良崮战役，更是驰名中外，一举粉碎国民党军队的重点进攻。从沂蒙山发起的淮海战役，敲响了国民党统治的丧钟。从渡江战役直至全国解放，沂蒙山一直是强有力的战略后方基地。