叶县地处中原腹地，远古时期就是人类劳动和繁衍生息的地方。境内有仰韶文化遗址及春秋以来古城遗址30多处，标志着至少在新石器时代先民已在淮河上游支流沙河、灰河、澧河河畔聚居生活。

叶，旧读“涉”。夏朝，大禹定九洲，叶县境属古豫洲。商代属古应侯国。前几年，在今叶县旧县乡出土的商代陶鹰（因应、鹰通假），有力地印证了叶县即古应侯国的史实。

叶之名始见于西周穆王时期。据近代出土的穆王时铜器记载： 淮夷敢伐内国，汝其以成周师戌于“叶 ”，所谓“成周师氏”就是成周八师的将领。淮夷侵犯中原，穆王令他统帅成周八师屯驻于叶地。叶之来历有人认为与周成王桐叶封弟有关。《史记·梁孝王世家》记述说：“成王与弱小弟立树下，取一桐叶以与之，曰：‘吾用封汝’，周公闻之进见曰：‘天王封弟，甚善’。成王曰：‘吾直与戏耳。’周公曰：‘人主无过，举不当戏言，言之必行之。’于是乃封小弟为应。”

春秋时期，叶属楚。鲁成公十五年、楚共王十五年，郑成公九年（公元前576年），许畏郑逼迁于叶（今叶县旧县）。楚昭王十八军，沈尹戌与吴国军队打仗时战死，楚昭王封其子沈诸梁为叶邑尹，食采于叶（今河南叶县）。

战国叶一度属韩，秦伐楚取叶后，改叶邑为叶阳邑；战国后期，魏于叶阳北置昆阳，后亦属秦。秦始皇统一六国后，叶阳属南阳郡，昆阳属颖川郡；汉代因之。三国时期，叶县、昆阳均属魏；晋，叶属南阳国。南北朝时北齐废昆阳。金初刘豫建齐，齐阜昌七年，继叶县治于昆阳。后世叶县一直治古昆阳城。元、明、清三朝，叶县均属南阳府。

中华民国二年（1913年），叶县属豫南道。民国24年（1935年），叶县属南阳行政督察区。1944年5月日本侵略军陷叶，县城由日伪窃踞。1945年8月日本投降。1947年11月，人民解放军解放叶县，建立人民政权，叶县属豫西行政公署。1949年2月改属许昌专区。1983年12月叶县改属平顶山市。