肇建
曲阜孔庙的历史可以追溯到孔子逝世的第二年，即周敬王四十二年（鲁哀公十七年，西元前478年）。根据《史记》的记载，当时孔子的弟子将其“故所居堂”立庙祭祀，庙屋三间，内藏衣、冠、琴、车、书等孔子遗物。至汉初，已历二百余年。

汉朝时期
汉高祖十二年（前195年）十一月，高祖刘邦自淮南还京，经过阙里，以太牢祭祀孔子。开皇帝亲祭孔子之先。元始元年（1年），平帝追谥孔子为“褒成宣尼公”。自此，孔庙愈受重视。东汉建武五年（29年），光武帝过阙里，命祭孔子。明帝、章帝、安帝均曾到曲阜祭祀。永兴元年（153年），桓帝下诏重修孔庙，任命孔和为守庙官，并立碑以记。有汉一代，庙宇虽经多次整修，但仍以宅为庙。东汉末年，天下大乱，“百祀堕坏”，孔庙颓败。

魏晋南北朝
魏晋南北朝时期，社会动荡，虽然玄学兴起，佛教盛行，孔子的尊崇地位却未受到太大影响。魏文帝“令鲁郡修起旧庙”，并安置吏卒百户守卫；又在庙外广修屋宇，以居学者。西晋末造，“五胡乱华”，“庙貌荒残”。东魏孝静帝兴和元年（539年），大力维修孔庙，首次为孔子及弟子塑像。此后，北齐天保元年（550年）和梁太平二年（557年）孔庙均得到修葺，但于庙宇形制无改。