宋、辽、金、夏，巴彦淖尔地区东境迭次属辽、金国，西境为西夏国属地。
元，阴山南属大同路云内州，阴山北属德宁路，统归中书省直辖。今磴口县则属甘肃行省宁夏路。
明初分属山西东胜卫和陕西宁夏卫辖境，未几，皆入于北元（后曾多次易手）。
清，后套地区属伊克昭盟（今鄂尔多斯市）鄂尔多斯左翼后旗、右翼后旗地。顺治五年（1648年）设置乌拉特前旗、乌拉特中旗、乌拉特后旗（今乌加河以北以东）。
1903年（清光绪二十九年）设五原厅。[1] 中华民国元年五原厅改县。
1914年设绥远特别行政区，当时境内设有五原县、乌拉特前旗、乌拉特中旗和乌拉特后旗。民国14年（1925年）设置临河、大佘太设治局。
1927年设置磴口县。
1928年绥远特别行政区改设为绥远省，当时境内设有五原县、大佘太设治局（1931年7月更名安北设治局）、临河设治局（1929年10月临河改县）、乌拉特前旗、乌拉特中旗和乌拉特后旗。
1942年绥远省在后套实行新县制，增设米仓县、狼山县、晏江县和陕坝市镇筹备处。时境内设有五原县、临河县、安北县、米仓县、狼山县、晏江县、乌拉特前旗、乌拉特中旗、乌拉特后旗和陕坝镇筹备处。