1947年3月，赵镈县东部析置为县，为纪念1933年中国共产党员领导的“苍山暴动”而得名。

夏代王杼在位五年(公元前2053年)，封曲烈为鄫，有向(今向城)、次室(今兰陵)诸邑。

公元前567年，鄫国为莒国所灭，后莒国被鲁国灭，鄫地为鲁国所辖，鲁国设有向、次室、鄫(今车辋)诸邑。

公元前487年兰陵为吴国属地。

公元前468年兰陵为越国属地。

公元前261年楚国占领兰陵，为控制其北疆，置兰陵县。直至公元前221年，县境分属兰陵、襄贲2县。

秦统一后，县境分属东海郡之缯、兰陵、襄贲3县。

西汉时属徐州东海郡之缯县、兰陵、襄贲3县。

东汉时属琅琊国之缯县及东海郡之兰陵、襄贲县。

三国时东海郡之兰陵、襄贲、缯3县。

公元前291年兰陵郡从东海郡中析置，苍山县境分属兰陵郡之兰陵县、琅琊国之缯县、东海郡之襄贲县。

南朝刘宋时，苍山县境分属琅琊郡之即丘县、费县和东海郡之襄贲县。

北魏时，分属兰陵郡之兰陵县、琅琊郡之即丘县、郯郡之郯县。

隋时，分属临沂县、兰陵县。

唐初，分属临沂、兰陵、缯县。唐贞观元年(627年)，县境分属河南道沂州之临沂县、丞县。

宋代属京东东路临沂县、丞县。

金时属山东东路临沂县、山东西路邳州兰陵县。

元代属中书省山东东西道宣慰司益都路峄州和沂州临沂县。

明清两代分属沂州府兰山县、费县、郯城县。

民国二年府制取消，复设临沂县，县境分属临沂县六、七、八区，郯城县四、五区，费县二、七区。

1937年"七七"卢沟桥事变爆发后，在中国共产党的领导下，上大炉村人万春圃等于1937年11月10日，在尚岩乡沟西村召开有临沂县、郯城县、费县、峄县(以下简称"临郯费峄")4县代表参加的抗日联席会议，协商成立临郯费峄4县边区联庄会办事处。

1939年2月临郯费峄4县边区联庄会办事处在车辋召开会议进行改组，改称临郯费峄4县边区联合办事处。

1940年3月临沂县抗日民主政府在庄坞成立。

1941年3月28日临郯费峄4县边联抗日人民代表大会在万村召开，成立临郯费峄4县边区政府，简称"边联县"。

1943年春天中共鲁南区委决定建立兰陵办事处，次年3月改称兰陵县。

1944年春，边联县改称赵镈县。

1945年10月兰陵县撤销，其部分辖区归属赵镈县。

1945年底，苍山县境只赵镈县1个建制。

1947年春，将赵镈县东半部析出置县，为纪念1933年中国共产党领导的"苍山暴动"，取名苍山县。

1948年重建兰陵县。

1950年5月11日撤销赵镈县，其辖区大部分并入苍山县。

1953年撤销兰陵县，其辖区部分并入苍山县。

2014年1月21日，苍山县改名兰陵县，行政区划不变。