夏为有缗国，系舜子季禧的封地，是当时汶、泗流域通向中原河流地区的咽喉。东汉建武元年（25），省爰戚，置金乡。据考证，汉武帝天汉四年四月（公元前97），封子刘髆为昌邑王，十一年薨，葬於高平山。初在山北凿墓得白兔，以为不吉，更葬山南，凿而得金，故改名曰金乡山。后除爰戚为金乡县，县名自此始至今，已1900多年。

秦始皇二十六年（前221），秦统一中国，推行郡、县制，分天下为三十六郡。缗邑即改名为东缗县（今金乡中东部，治所在今金乡县城），时东缗、昌邑（今金乡西北，治所在巨野县昌邑集）、爰戚（今嘉祥东南，治所在今嘉祥县阿城铺）三县鼎立，隶属于砀郡管辖。

西汉汉高祖推行郡国制度，设州、郡、县三级政权，今金乡境仍为当时的东缗县地。初属梁国（国王彭越）的兖州山阳郡管辖。

西汉平帝九年，王莽篡汉，建国为新朝。王莽称爰戚为戚亭。西汉时期，爰戚尚存，未改置金乡县。东汉建武元年（25），改爰戚县为金乡县。

三国时期，行州郡县三级政区，东缗、昌邑、金乡三县仍然并存，均属兖州的山阳郡，昌邑城仍为山阳郡的郡级机关所在地。东汉、三国时期，东缗县城都在今金乡县城 。

西晋行郡国制，晋武帝泰始元年（265），改山阳郡为高平国，仍以昌邑城为国都，金乡县隶属之。东缗县在西晋时期尽管没有出现，是属于更名，并未分置。此时，东缗县已改称南平郡。

东晋金乡县曾改为郡，但为时不久，金乡被北魏占领，郡即被废。金乡置郡，仍在故城阿城铺，而不在今金乡治所。

南北朝的北魏时期，金乡县属兖州高平郡，刘宋、北齐、北周因之。在北魏和刘宋时期，昌邑、东缗两县均未再现，[5] 昌邑、东缗、金乡三县统一，自有史以来，这还是第一次。但这时的金乡县城仍在故城阿城铺。金乡县从故城阿城铺迁入今城址，应在北魏的末期。

隋开皇十六年（596），金乡县分置昌邑县；大业二年（606），隋朝政区更动，罢州置郡，郡置太守，昌邑县复并入金乡县，金乡县归属济阴郡（郡治曹州，即今曹县西北）。金乡县这时的政区面积大小，应为北魏三县统一时的面积大致相等。

唐朝武德元年（618），金乡县属河南道兖州鲁郡管辖。武德四年（621），金乡、方与（今鱼台县）置金州（州治于今县治所），金乡、方与两县隶属于金州。武德五年（622），复置昌邑县，金州改称为戴州，今金乡县城既为县级机关所在地，又为戴州的州级机关驻地。[6] 武德八年（625），昌邑县复并入金乡县。贞观元年（627），废除戴州，金乡县归属兖州鲁郡管辖；贞观四年（630），建文峰塔，亦称光善寺塔。

五代后周时期，金乡县隶属济州（州治巨野）。金乡在隶属济州之前，是属于单州管辖。

宋金元明清时期。宋朝，金乡县属京东西路济州济阳郡管辖。宋度宗咸淳元年（1265），鱼台县并入金乡县，第二年复置鱼台县。

金，金乡县隶属山东西路济州管辖。

元朝，金乡县隶属济宁路。元顺帝至元二年（1336），鱼台县并入金乡县。至元三年（1337）复置鱼台县。

明朝初年，金乡县则属济宁府。洪武十八年（1385），金乡县隶属山东布政司兖州府。明神宗万历七年（1579），知县杨楫初修县志。

清朝，顺治初年（1644），金乡县为兖州府领地。清康熙四十八年（1709），知县沈渊奏准开挖东沟河，疏浚展宽万福河，引泄上游客水，除金乡积水。乾隆二十六年（1761），建山阳书院。乾隆四十一年（1776），金乡县从兖州府析出归属济宁直隶州。