淮安市政府招待所东，府学路西端，旧名府学市口，府学路上有一长方形水池，即府学泮池。泮池北有一个很大的院落，现为部队所用，它就是淮安府儒学的旧址。
封建社会里官办的儒学一般分为县学、府(州、路)学和京城的太学三级。淮安古称山阳县，自然有山阳县儒学(遗址在今淮安大酒店处)。但是，淮安又是历代郡、州、路、府的治所，所以淮安城内同时又有府级儒学。淮安府儒学的学生来自所属各州县。随着时代的不同，所辖范围不同，招生的范围也就不同。元代所辖范围最大，占半个苏北，还带上安徽的一部分。明代次之，下辖盐城以北，除徐州直隶州(辖丰、沛、萧、砀四县)以外的半个苏北。当时生源很广，苏北一带的封建文人，特别是官僚、文学名人，绝大多数在淮安府学读过书。这一点无可辨驳地证明，淮安曾是苏北很大一块土地上的文化中心；淮安府学与淮安府署、文通塔、镇淮楼一样，是淮安灿烂历史文化的见证，是淮安历史文化名城的重要标志。
从秦汉时代起，淮安即为郡、州、府治所，府学始建时间无史料可考。据目前所存文献来看，可以追溯到北宋年间。现将有史可查的建设、毁坏、维修等情况缕述如下：
宋代淮安称楚州，在南门内今府学遗址处有一座孔庙，此即楚州儒学。景佑二年(1035)，魏廉以田曹来楚州任知州。他认为该祠“陋荒不能为礼”，不足以“育材劝学”。于是，上书建议扩建，得到批准后立即动工。建成以后，宋祁为之作了一篇《建学碑》。据碑文记载，这次工程项目是在原址南边筑坛建堂，两旁建厢房，另建收藏书籍的楼阁和存放器物的库房，厨房、厕所齐备，共78间。正殿除供孔子像外，另增配祀四科十子。整个建筑南边挂“孔庙”匾额，西边另挂“楚州儒学”的门匾，规模宏大。“命诸生群居比艺，日月第课。教必名儒，习必秀民。”魏廉又购书3000卷作为藏书，并割山阳、淮阴二县“艿场三区”作为学田，每年收入可达四十余万，全供学宫使用。不久魏廉课任别官，接任者竟将学田中调出二区移作他用。景佑七年(i040)，魏升任七兵外郎、淮南转运使再度来淮，地方官闻讯大惧，立即将学田调回。为了防止类似事件再发生，魏廉在楚州学宫立了一块碑，命令今后永远不准更改。元佑中(1086－1094)淮安学者徐积，曾在其中任过教授。
北宋末年，金兵南侵，宋王朝逃亡江南，淮安成了宋金交兵的前沿阵地，修建已近百年的楚州学富毁于战火。宋金议和后，于绍兴十三年(1143)，楚州知州纪交抛开原址，在南市之西草草重建了州学。绍兴二十三年(1153)，知州吴樐又在南门大街原址修建州学，放弃了南市临时学舍。
隆兴二年(1164)冬，宋金大战，知州魏胜战死，楚州陷金，州学再次毁于战火。
乾道五年(1169)，地方官在天庆观西(今太清观街)重建州学。八年，知州赵磻认为建得太简单了，就增建了殿庑。
淳熙十年(1183，知州王詗根据山阳知县刘介然的建议，又将州学搬迁回南门内旧址。此年冬十一月，王詗调走，金部郎中章冲继任楚州知州。次年春，章冲认为州学“殿屋粗立，不避风雨”，就又作了增修。工成，率僚吏及诸生环坐听讲学，并颁示校规，悉依安定先生胡瑗的办学旧规行事。教授吴莘曾为之作记。
开禧二、三年冬春(1206、1207)，金人以骑兵七万，战船五百，列屯六十余里，围战楚州三月，楚州学宫第三次毁于战火，连其地亦没入军营。
嘉定初，知州赵师旦又恢复旧址，并建正殿于原址之后。三年(1210)，知州王孟祥作了维修，又在正殿之东建立讲堂。