质地貌乌金山地势北高南低，由中度切割的基岩山和土石山组成，主要岩石为古生界二叠系与石炭系时期形成的灰色砂岩和紫红色、灰绿色页岩，占全境面积的87%。其中涧河以北的中林山、乌金山、大洪山等多为二叠系上、下石盒子组、太原组的灰色砂岩。涧河以东的紫金山为二叠系石千峰组的紫红色砂页岩。局部地区覆盖的黄土为砂页岩母质和黄土母质发育而成的淋溶性褐土、褐土性土和石质土，占全境面积的13%。几亿年前的地质变化造成了今天乌金山层峦叠嶂，沟壑纵横，林涛呼啸，紫气蒸腾的壮丽风光，可谓天地造化得天独厚。

乌金山具有典型的华北地区太行山土石山区植被特征。共有物种480多种，其中植物物种330余种，其中白皮松为国家二级保护树种、闪金柏为珍奇树种、蒙椴、黑弹朴、本氏木兰为稀有树种、丽豆为濒危树种。