今安阳县小南海的小南海洞穴遗址表明，在约25000年前至约13000年前的旧石器时代，这一带已经有人类居住。该洞穴遗址现在位于小南海西南的北楼顶山山腰上，坐西朝东，洞口约3米多宽。20世纪六七十年代，中国科学院考古研究所专家曾对洞穴进行发掘。郭沫若在《中国史稿》中将此称为“小南海文化”。中国上古的三皇五帝时期，相传颛顼、帝喾两位帝王建都于今安阳市内黄县境内，分别在位70余年。
殷商后期，安阳是商都殷墟。早期的商王朝频繁迁移都城。据史料记载，他们一共进行了13次迁都。约公元前1300年商王盘庚统治时期，都城从“奄”（位于今山东省境内）迁到“北蒙”（今安阳市区西北）并改称“殷”。史称“盘庚迁殷”。商朝都城迁殷后，殷成为此后商朝的政治、经济和文化中心。商王朝在殷共传八代十二王，历时254年。前1046年，周武王率诸侯之师伐商纣，发动了牧野之战，纣王兵败自焚，殷亡。近代，这里出土了15万多片甲骨文、上万件青铜器（包括著名的后母戊鼎）、50多座宫殿遗址，发现有宫殿区、王陵区、平民区、铸铜遗址、手工作坊以及大型祭祀场等。
春秋时期，安阳先属卫国，继而属晋国；战国时期，安阳属魏国，后属赵国。“安阳”一名始于战国。其说有二，《史记·赵世家》载：赵惠文王二十四年（前275年），“廉颇攻魏房子，因城而还，又攻安阳，取之”。“安阳”一名始见于史册。另《史记·秦本记》载：秦昭襄王五十年（前257年），“（王）攻邯郸，不拨，去……攻汾城，即从唐拨宁新中，宁新中更名安阳”。即“安阳”之名是由“宁新中”改。