郑维山，河南省新县人，1915年出生于新县泗店乡屋脊洼一个贫苦农民家庭，幼年读过一年私塾，以放牛为生。父亲郑国祺，参加过“黄麻暴动”。受其父影响，少年为地下党送信，后加入童子团，任分队长，站岗放哨查路条。13岁任少先队中队长。15岁入党，同年加入赤卫队，任副指导员，率队参加徐向前领导的中国工农红军第一师。先后任班长、队长、指导员、团政委。18岁任主力红军师政委。土地革命时期，他是红四方面军的一员猛将，参加过鄂豫皖苏区一、二、三次反“围剿”等战役。1934年11月，他在徐向前、李先念的指挥下，率红军“夜老虎团”、“能守钢军团”、“能攻钢军团”三个英雄团组成的88师，当先锋，打主攻，三爬雪山，三过草地，两次率部迎接红军主力会师，血战河西走廊，刚勇英烈，叱咤风云，历经危难，屡建奇功，荣获一级八一勋章……
抗日战争时期，1938年，他奔赴抗日前线，先后担任晋察冀教导团团长、抗大二分校副校长、军区司令员，率部深入华北敌后，转战平西太行。参加了“百团大战”和历次反扫荡，为开创和保卫晋察冀抗日根据地建立了奇功，荣获了一级独立自由勋章……
解放战争时期，先后历任张家口、石家庄卫戍司令员、察哈尔军区司令员、三纵队司令员（胡耀邦时任政委）、63军第一任军长。他率部纵横华北，征战西北，先后参加指挥了石家庄、平津、太原、兰州、宁夏等著名战役，所向无敌，战功卓著，荣获一级解放勋章。
抗美援朝战争时期，年仅38岁的将军任兵团副司令员、代司令员。他在金城地区成功指挥实施了3500人敌前昼间大潜伏，一举突破敌人两个师防御阵地，创造了现代战争史上的奇迹，为促成“停战”起了重要作用，荣获朝鲜一级国旗勋章和一级独立自由勋章……