三国时期，今天汝宁市属魏，为汝南郡、南阳郡分辖。西晋分汝南郡置汝阴郡。东晋时先属前秦，后属东晋、后秦、后赵、前燕。南北朝时期大部属汝南郡。南朝宋文帝在汝南郡治所侨立司州，始称汝南为悬瓠。北魏初改司州为豫州，以后又多次更名。隋大业初改为汝南郡，隶属豫州，泌阳属豫州淮安郡。唐宋时期分属蔡、唐二州。唐玄宗天宝元年，更州为郡，唐肃宗乾元初又改汝南郡为豫州。恢复唐州。宝应初代宗讳改豫州为蔡州。宋高宗建炎三年（1129年），金攻陷蔡州，置蔡州镇南军。公元1234年，金哀宗从开封逃到蔡州（今河南汝南），南宋乘机与蒙古联合攻破蔡州，金国亡。元初分属蔡、息、陈、唐四州。元至元三十年（1293年）升蔡州为汝宁府，泌阳归南阳