三国魏文帝黄初元年（220），将梁国改为梁郡。
　　后赵、前燕、前秦、后燕、后秦时仍为梁郡。
　　南朝宋、齐为南梁郡，属南徐州。
　　北魏为梁郡，属南兖州。
　　隋开皇初梁郡废，十六年（596）置宋州，大业三年（607）复置梁郡。
　　唐武德四年（621）又改为宋州，天宝元年（742）置睢阳郡，属河南道，乾元元年（758）复为宋州。
　　五代梁三年（909）升为宣武军，五代唐庄宗同光元年（923）改为归德军，五代周时仍为宣武军。
　　北宋初复置宋州，景德三年（1006）升宋州为应天府，属京东西路（应天府始为京东东路路治，后为京东西路路治），大中祥符七年（1014）诏升为南京。
　　金太宗天会八年（1130）更名为归德府，属南京路。元为归德府，属河南布政使司。
　　明太祖洪武元年（1368）降府为州，属开封府。嘉靖二十四年（1545）升州为府。
　　清沿明制，仍为归德府，属河南省。
　　民国2年（1913）裁归德府，所属各县划归豫东道。1914年改豫东道为开封道。1932年为第二行政督察区，直到1948年。
　　1948年11月全区解放后为豫皖苏第一行政区，1949年3月改为商丘专区，辖睢县、民权、宁陵、柘城、商丘、虞城、夏邑等7个县及商丘市。1950年5月商丘县城关区改建为商丘市，原商丘市改为朱集市。1951年7月设立谷熟办事处（县级），同年8月朱集、商丘二市合并为商丘市，市治朱集。1952年1月，永城县（现在的永城市）由皖北专区划归商丘专区，同年8月撤谷熟办事处正式建谷熟县。1953年1月，裁淮阳专区，其所属淮阳、鹿邑、太康、沈丘、项城、郸城等6县划