抗日战争爆发后，蒙旗总队改编为蒙旗独立旅，他担任该旅的政治部代理副主任，并担任共产党地下党委书记，坚决贯彻中国共产党抗日救国十大纲领，为这支军队成为当时蒙古族中最大的抗日武装起到重要作用。民国27年（1938年）初，蒙旗独立旅开赴伊克昭盟。5月，蒙旗独立旅改为国民革命军新编第三师，他担任政治部代理主任，共产党地下党委书记，并按八路军建制在部队建立了一整套政治工作系统，开展部队的政治思想工作和地方群众工作，使这支部队在极困难的条件下，长期坚持鄂尔多斯高原的抗日斗争。民国28年（1939年）春至民国30年（1941年）夏，配合第三师师长白海风指挥部队，多次击退日伪军对伊克昭盟（今鄂尔多斯市）的进攻，保卫了陕甘宁边区的北大门。民国30年（1941年）8月，按照中共中央决定，调赴延安工作，先后担任延安民族学院教育长、陕甘宁边区民族事务委员会主任委员，为各民族团结抗战培养了大批民族干部。民国34年（1945年）4月，在中共七大会议上当选为中共中央候补委员。7月，担任新成立的绥蒙政府主席。

抗日战争胜利后，曾任中共晋察冀边区中央局委员、内蒙古自治运动联合会主席兼军事部长1945年的乌兰夫

、内蒙古军政学院院长、内蒙古自治学院院长等职，主要致力于内蒙古民族自治运动工作。民国34年（1945年）10月，带领工作组赴苏尼特右旗，积极宣传共产党的民族自治政策，揭露少数人企图搞分裂的阴谋，团结广大爱国青年，迅速解决了“内蒙古人民共和国临时政府”的问题。民国35年（1946年）初，亲率内蒙古自治运动联合会代表团与东蒙古自治政府代表团谈判解决内蒙古地区东西部统一问题，成功地召开了在内蒙古革命史上有着重要意义的“四·三”会议，撤销了东蒙古自治政府，为建立统一的内蒙古自治区奠定了基础。民国36年（1947年）4～5月，成功地召开“五·一”大会，胜利地宣告中国第一个少数民族自治政权—内蒙古自治政府诞生。他按照中共中央的指示，坚持中国共产党的领导，坚持民族区域自治政策，坚持国家的统一，经过艰苦的工作，使内蒙古出现了在中国共产党领导下团结统一的新局面。民国36年至民国38年（1947～1949年），先后担任中共中央东北局委员、内蒙古共产党工作委员会书记、内蒙古自治政府主席、内蒙古军区司令员兼政委，领导了内蒙古自治区的政权建设、军队建设、党组织建设、经济文化建设，完成了农村的土地改革和牧区的民主改革任务。在对牧区的民主改革中，提出了符合牧区特点的“三不两利”（即“对蒙古族一般大牧主的牲畜、财产一律不斗不分，中农财产坚决不动；牧区实行保护牧民群众、保护牧场，放牧自由，在牧民与牧主两利的情况下，有步骤地改善牧民生活，发展畜牧业”）政策，广泛地团结了各民族和蒙古族各阶层，使牧区生产得到迅速发展。在此期间，他组织各民族群众努力生产、踊跃支前，还指挥内蒙古解放军部队消灭了内蒙古地区的土匪和反动地方武装，参加辽沈战役和平津战役，为解放战争的胜利做出重要贡献。民国38年（1949年）9月21～30日，参加了在北京召开的中国人民政治协商会议第一次全体会议，作了《在〈共同纲领〉的基础上为建设新中国而奋斗》的发言，被选为中华人民共和国中央人民政府委员和中国人民政治协商会议全国委员会委员。