战国中期，匈奴族崛起，与鄂尔多斯境内林胡、楼烦等部落联盟，形成了一个强大的联盟集团，并乘秦国兼并六国的战争之机，攻入长城之内，占领了整个鄂尔多斯高原及陕西、山西北部部分地区。赵国与匈奴为邻，经常受到匈奴的威胁。赵武灵王时，经过“胡服骑射”的改革，国力大增，于公元前306年攻破林胡、楼烦部落，进入鄂尔多斯高原，并在今托克托县置云中郡，在高原的西北部置九原郡，辖管鄂尔多斯的东北部和西北部，实行军事屯田，发展农业生产，充实边防。公元前234年，秦军大败赵兵，鄂尔多斯高原又属秦所有。接着匈奴人又打过黄河，占领了鄂尔多斯高原。

秦始皇统一中国后，在鄂尔多斯地区设立郡县，准格尔旗东部、北部分别属云中郡、九原郡；西南部辖美稷县、平定县。在今准格尔旗纳日松镇勿图沟发现的古城，经考证，就是秦王朝所置的上郡属县广衍县城。秦末“诸候叛秦，中国扰乱，诸秦所徙，戍边者复去”。鄂尔多斯高原又为匈奴冒顿单于复占，划编为右贤王驻牧区。

汉元朔元年（公元前128年），汉武帝发动了漠南之战，派大将卫青击走了驻牧在鄂尔多斯高原上匈奴属部绥颊王和白羊王部，占领了鄂尔多斯高原，在这里设置郡县，准格尔旗大部属云中郡。