南阳知府衙门博物馆现存建筑保留了元、明、清三代的建筑艺术。坐北向南，轴线对称，主从有序，中央殿堂，两侧辅助，布局多路，院落数进。 中轴线两侧左文右武，左尊右卑，前堂后寝。单檐硬山式建筑。它是清代全国215个知府衙门中到2013年保存完整、规制完备的唯一府级官署衙门。府衙的照壁呈凹形，高5米，宽22.5米，用青砖砌成，砖上有“南阳府城”南阳府衙、“南阳府”砖铭。照壁前左、右两侧现有召父、杜母坊遗址，是为纪念两汉时治南阳政绩卓著的两位贤太守召信臣、杜诗而建的。大门前筑女儿墙，两侧是八字墙，墙体内各镶石碑4通。进入面阔3间、进深2间、拱券式的大门，便是仪门。仪门形制同大门，唯前坡内侧檐部采用木构卷棚。仪门为礼仪之门，凡新官到任，至仪门前下马，由迎接官员迎入仪门内。嘉庆大典，皇帝临幸，宣读圣旨或举行重大祭祀活动，也要大开仪门。仪门之后便是大堂，它面阔5间，进深3间，是中轴线上主体建筑，也是第三进院落。檐下置斗拱，斗拱疏朗，梁架奇巧，明亮宽敞。大堂是知府开读诏书，接见官吏，举行重要仪式的地方。堂正中设公案，两侧列“肃静”、“回避”及其它仪仗等。大堂之后的二堂是府衙长官处理一般公务的地方，有庄重威严的气氛。穿过二堂大门20米，便是三堂，是知府接待上级官员，商议政事，处理公务及燕居的地方。堂后为府衙花园——泓池水，明静清澈，山石玲珑，树木青葱，奇花异草，争芳斗艳，为知府及家眷的休憩场所。

南阳府署左北向南，经明、清两代不断修葺扩建，至清光绪末年，规模宏大。主体建筑依次排在一条中轴线上，均为硬山式砖木结构。两侧房舍、院落分布有序，布局严谨。署前为照壁，北为大门，左右列榜房，门前东为召父房，西为杜母坊，还有谯楼和石狮一对。

大门北为仪门，两侧为公廨，外有东西牌坊两座，分别与仪门两侧门相对应。再北为大堂，沿明旧额曰“公廉”，即公正廉洁之意。堂前竖戒石坊，正面额书“公生明”，两侧书“尔俸尔禄，民膏民脂；下民易虐，上天难欺”（即《戒石铭》原文）。堂左右为承发司、永平库，堂前至仪门，两侧各建排房十间，为各执事房，即书吏六曹房，还有东西二公廨。大堂后为寅恭门，门后为二堂，明代额曰“燕思”，后曰“思补堂”，清末改曰[1] “退思堂”，均取退而思过之意。二堂之后有暖阁（穿阁），经穿阁即入内宅（府庭），内宅为一四合院，由宅门及左右门房、左右廊房和后堂（三堂）组成，俗称上房院。宅门及门房两侧为吏舍，但在上房院外。后堂规模与大堂相仿，是知府接待上级官员和商讨重要政事的地方。后堂东有偏院，为知府眷属住所。其东南（在二堂之东偏南）为“虚白轩”；北折而东植桃李数十株，有舍曰“桃李馆”。后堂西南（在二堂西）有花厅，厅之北宇曰“师竹轩”，为知府鉴判之所，即签署公文、案卷和日常办公的地方，取虚心治理之间，故名。

转西为“爱日堂”，光绪二十五年（1899年），于堂前凿池植莲，并架虹桥于其上，以通“对月轩”，取净直不染之意，加制匾曰“爱莲”，旁砌假山，为政余憩息之所。后堂北为“槐荫静舍”，舍后隙地为菊圃，每年重阳可养千余盆菊花；堂之西南辟菜圃，引泉水以灌之，曰“芳畹”。后堂再北为后府，西半部为马号，东部有侧院，内有“桂香室”，室后为团练宾兴馆。最北部为操场，原是训练团勇的地方，民国25年（1936年），督察专员公署在这里举办第一届武术大会。