衢州古城墙是一座体现明清时期汉族建筑风格的大型防御设施。全国重点文物保护单位(公布时间：2006年5月25日)。目前保留下来的衢州城墙始建于何时，史志均无明确记载，尚难以确定，但比较统一的说法是唐以后衢州才正式建筑了砖石城墙，明嘉靖《衢州府志》云：“唐武德四年（621）置衢州建郡治。”

目前，大南门、小南门，大西门、东门经过修缮，保存尚为完善。修缮后的城门仍由青黑色石砖垒成，有些城墙上还被爬山虎一类的草本植物覆盖，基本上保存了城门的本来面目，衢州城门的一些特点还依晰可见。比如小西门瓮城，就是外城墙与内城墙或护城门之间的一块空地，这样守城士兵就可以打开外城门诱敌深入，然后关闭外城门，内外城以及两侧城墙形成一个瓮状结构，此时消灭敌人就如瓮中捉鳖，易如反掌。这一设计充分体现了劳动人民的智慧。也从一个侧面反映了古代军事思想和战争的战略战术。

因为所处的地理位置优越，衢州四省通衢，为浙西门户，由沿海通往闽赣的咽喉，战略地位十分重要，自古是军事重镇和兵家必争之地，位于龟峰和峥嵘岭（即府山）之上的东门，又名“铁衢门。”方蜡起义，黄巢起义，太平天国运动，北伐军进攻孙传芳部等，都曾在这里受挫，久攻不下，故该门又被称为“铁衢门”。特别是太平天国翼王石达开、侍王李世贤等，率军数次围攻衢州，最长的一次达半年之久，但都因城墙高而坚固，易守难攻，而损兵折将，无功而返，“铁衢州”也因此得名。衢州城墙大都高约五米，墙面少滑平整，墙宽约两米，便于车马行走。“峥嵘山突兀，柳宇横烟霞，策杖寻旧戎，苍苔石径斜。”清人王荣俊的这几行诗充分说明了这是屯兵守城的险地。

城墙除了以上特点，还有屯兵、存粮的作用，体现了古代修筑城墙的初衷，一切为战争服务。但由于科学技术的发展和人们观念的改变，时代的进步，城墙的这一功能正在逐步淡化，并失去其原有的价值。