青虚山在古唐八景中称为“清虚耸翠”。《唐县志》载：“取四时之气清而煦，界入虚空，超然物外而名。”因东晋高道葛洪曾于此隐居修道又称“葛洪山”，简称“葛山”，为华北地区著名道教圣地，全真教发祥地之一。

    葛洪，字稚川，丹阳句容人，生于晋武帝太康四年（283年），出身江南士族家庭。曾于广州随南海太守鲍靓学医学道，并与其女结为夫妻，在广州越岗院（今三元宫）悬壶创办了古代医所。后曾到东晋都城作了几年京官，深得晋元帝赏识，受封关内侯，几年后毅然辞去高官，自请为勾漏令，因那里盛产丹砂，继续从事道家的炼丹生涯。葛洪作为道教理论家、炼丹术家、药物学家，历游名山大川，到古北岳恒山后，被青虚山的不凡景色所吸引，于是同夫人鲍姑隐于此山结庐炼丹。他跨虎提篮，为民疗疾。唐县周围道教信徒供奉葛洪真人画像者为数不少，他身跨猛虎，左手提篮，右手捏着丹丸。青虚山自葛洪真人隐居得道后，遂名气大增，文人骚客、达官显贵、道释儒墨云涌而至，形成了以道教为主流的青虚山文化。

     青虚山道教历代持续发展，经过唐、宋、金、元时期，内战连续百年，太行山以东、黄河以北曾是多年战乱的地带，生灵涂炭，民不聊生、人口锐减。道教全真派宗师丘处机（长春真人）朝见蒙古元太祖成吉思汗，劝其少杀生灵，有功于世，封为“长春全德神化明应主教真君”，尊为国师，掌管天下道教事，凡加入全真教者皆免死免赋。青虚山作为道教圣地，也是从那个时候兴旺起来的。在青虚山修道的隐逸仙真还有黄野人，葛洪弟子。随洪至罗浮山结庐于冲虚观，侧时有哑虎守之，洪既仙去，留丹于柱石间，野人自外至，得一粒服之，为地行仙。《正统道藏》中记载葛洪的弟子黄野人因为得到师父的一粒仙丹成为地仙，此后就生活在罗浮山中，常做月下高歌。地仙通常被任命管理道教遍布神州各地共一百处的洞天福地，他们有机会通过长期艰苦修行成为天仙。