春秋时期出现了诸侯勃起，群雄争霸，天下纷乱的局面，郑国为了生存，与其他诸侯国之间时而合作，时而对抗，纵横捭阖，相互兼并，这种状况一直持续到战国。子产当政时期的郑国，外御强邻，内修法度，推行田制改革，安内攘外，使郑国由贫弱转为富强。子产死后，子太叔接任为政一职，但因郑国君主宽严皆误，致使国内匪盗严重。公元前375年，韩国灭掉郑国，迁都新郑。公元前355年，秦国商鞅变法之时，韩国在诸侯国中已处于弱势，但即位后的韩昭侯不拘一格，任用郑国亡国之臣申不害为相，使韩国国治兵强，成为战国七雄之一。但到了战国后期，韩国逐渐衰败，前230年，秦军生擒韩国国王，灭韩国。至此，新郑先后做为郑国和韩国的国都达500年之久。

秦军攻入韩国后，在其地域上设置具有军事性质的三川郡，至公元前221年，秦始皇统一六国建立秦国后，在全国置36郡，三川郡正式成为行政单位，郡治先在洛阳后迁至荥阳。郑州大部分属于三川郡，新郑属于颖川郡。秦末爆发陈胜吴广起义，前208年，吴广率部围攻荥阳时被部下杀害，陈胜率军直逼咸阳，动摇了秦王朝的统治地位。 前206年，刘邦屯兵荥阳，郑州的京、索二水之间是刘邦和项羽进行的楚汉战争的主战场之一，双方连番争战，相持数月最后不得不以鸿沟为界，中分天下。秦汉时期，今郑州地域以荥阳为中心，因处交通和运河要道，经济日趋繁荣。

西汉时期，依托大隗山、役山（今敏山）和少室山一带丰富的矿藏资源，巩义和荥阳成为国内重要的冶铁基地，荥阳在汉代设有铁官，从古荥汉代冶铁遗址发掘出的大型炼钢高炉炉基和球墨铸铁遗物，反映了汉代已达到最高的黑金属冶铸技术水平。东汉后期，各地豪强各据一方，黄巾起义后，又出现军阀混战，曹操占据中原。建安五年（200年），曹操在中牟东北的官渡打败袁绍，此乃中国历史上著名的以少胜多的官渡之战。晋朝从晋惠帝登位开始直至十六国后赵政权建立为止，约三十年间包括郑州在内的中原一带了无宁日，农业萧条，饥荒频仍。北魏，古印度人达摩云游至嵩山少林寺面壁九年，传衣钵于慧可。此后，达摩被人尊为中国禅宗初祖，少林寺的禅宗祖庭地位也由此确立。