1979年8月，学院第一前身“邢台农业机械学校”在原华北农业机械化学院（现中国农业大学）迁京后的校址上组建，隶属于国家农业机械部、河北省革委会双重领导。
1982年10月，农业机械部撤并入机械工业部，学校随之更名为机械工业部邢台机械工业学校。
1983年4月，邢台机械工业学校由机械工业部划归中国人民解放军总后勤部管理，更名为中国人民解放军军需工业学校。
1991年6月，经原国家教委和中国人民解放军总后勤部联合批准，以军需工业学校为依托建立邢台高等职业技术学校，是当时全国独立设置的两所高等职业技术学校之一。
1994年7月，经中国人民解放军总后勤部批准，军需工业学校升格为大专，更名为“中国人民解放军军需工业高等专科学校”。
1997年3月，原国家教委批准邢台高等职业技术学校更名为邢台职业技术学院，成为我国最早命名为“职业技术学院”的两所高职院校之一；9月3日，中国人民解放军军需工业高等专科学校更名为中国人民解放军军需工业学院。
2002年7月，学院从中国人民解放军总后勤部整体移交河北省，成为河北省直属管理的省属高校，纳入省高教发展序列。