春秋，鲁隐公五年（前718年）宋人伐郑围长葛，始见其名。属郑国，为城邑。

战国，周烈王元年（前375年）韩哀侯灭郑，长葛属韩，后（前361~前350年期间）为魏伐取，长葛归魏，改名长社。

秦行郡县制，长社始为县，属颍川郡。

汉承秦制，长社仍属颖川郡。王莽新朝，改颖川郡为左队，长社属左队。东汉，复西汉旧制，长社属颍川郡。

三国曹魏、西晋、东晋，长社属颍川郡。

南北朝，宋少帝景平元年（423年）北魏的将周几夷许昌城，立豫州封疆，长社为北魏占领，时，许昌城夷毁，颍川郡治徙长社，长社属颍川郡。东魏天平初，置颍州（治长社），长社属颍州郡。武定七年（549年）颍州、颍川郡及长社县移治颍阴（今许昌市），颍州改曰郑州，长社属郑州颍川郡。北齐因之。北周改郑州为许州，长社属许州。

隋开皇三年（582年），罢郡，行州县制，改长社县为颍川县，属许州。开皇六年（586年），析置长葛县（治所今老城），长葛属许州。大业三年（607年），复行郡县制，改许州为颍川郡，长葛县属之。

唐武德四年（621年），改颍川郡为许州，长葛属许州。天宝元年（742年），改许州为颍川郡，乾元元年（758年），颍川郡又复为许州，长葛县归属不变。

五代，后梁改唐许州忠武军为许州匡国军，长葛属之。后唐复许州匡国军为许州忠武军，后晋、后汉、后周俱因之。

宋初，长葛属京西路许州。熙宁五年（1072年），属京西北路许州。元丰三年（1080年），升许州为颍昌府，长葛属颍昌府。