临沂地处鲁中南低山丘陵区东南部和鲁东丘陵南部。地势西北高东南低，自北而南，有沂山、蒙山、尼山3条主要山脉呈西北东南向延伸，控制着沂沭河上游及其主要支流的流向。以沂、沭河为中心，西、北、东三面群山环抱，向南构成扇状冲积平原。山地、丘陵、平原面积比例为二：四：四。山地集中分布在沂水、沂南、蒙阴、平邑、费县、莒南等县。地势较高，一般海拔400米以上。山地植被比较茂密，是发展林果业、畜牧业的主要基地。丘陵主要分布于山区外围，沂水、沂南、莒南、兰山、苍山、临沭、郯城、平邑等地都有分布，以沭河以东分布最广，一般海拔200米─400米。丘陵地带的土壤砂性大，适耕性好，土层较簿，保水肥能力差，适宜发展防护林和经济林，是花生、地瓜、玉米、黄烟等作物的的主要产地。平原有沂沭河冲积平原、山间沟谷平原、涝洼平原。沂沭河冲积平原主要分布在沂水南部、沂南东部、河东、兰山、罗庄、苍山、郯城。临郯苍平原土层深厚，土质肥沃，是粮食和蔬菜主要产区，素有“粮仓”之誉。 山间沟谷平原主要分布在费县、平邑中部，蒙山前平坦谷地，蒙阴、沂南、沂水等县的山间沟谷之中，土层深厚，质地适中，多种小麦、玉米等作物。涝洼地平原主要分布于苍山和郯城南部，土壤粘重，排水不畅，易涝，多种小麦、水稻、蔬菜等作物。

     临沂市地质构造复杂，地层发育比较齐全，从太古界至新生界，除上奥陶统、志留系、泥盆系、下石炭统、三迭系及中、下侏罗统、老第三系古新统、新第三系地层缺失以外，其他各期地层都有发育。主要构造以郯庐断裂带（境内称沂沭断裂带）为主，郯庐断裂带经郯城北北向延伸，纵贯全市，以断裂为界，临西为鲁西台背的一部分，属华北地台范畴，临东为胶南隆起的一部分，属扬子大陆块范畴。

      境内山脉自北而南，有沂山、蒙山、尼山3条主要山脉，海拔千米以上的山峰有10余座。其中蒙山海拔1156米，为山东第二高峰，素称“岱宗之亚”，久负盛名，享誉中外。境内有不少由流水侵蚀造成的桌状山，当地称为“崮”，素称沂蒙七十二崮，著名的孟良崮就是其中之一。