临沂历史悠久，是中华文明的重要发祥地之一。早在四、五十万年以前，人类的祖先就在这块土地上创造了远古文明。二十万年以前的旧石器时代早期的文化遗存在境内有多处使用文字符号，现沂河和沭河流域发现的近百处细石器文化遗存，是一、二万年前的人类所创造。

临沂是著名的革命老区。战争年代，沂蒙人民为抗击外来侵略和中国革命的胜利做出了巨大的贡献和牺牲，三万沂蒙的英雄儿女献身疆场。车轮滚滚的支前队伍、送子送郎参军的动人场面、红嫂的感人故事、名垂青史的孟良崮战役记下了这一段光荣的革命业绩。

中华明国成立后，费府撤州，实行省、道、县三级制。

抗日战争时期，中国共产党在这里创建革命根据地。

解放战争时期，共产党的行政区划层次仍沿袭抗日战争时期，只是对区划作了某些调整。

中华人民共和国成立后，对行政区进行调整。现在地级临沂市辖兰山、罗庄、河东三区和郯城、苍山、莒南、沂水、沂南、平邑、费县、蒙阴、临沭9县。