战国时期公元前306年，赵武灵王在阴山下筑长城，并设云中郡，郡治故址在今呼和浩特市西南托克托县境。

西汉时期

西汉武帝时，在河套地区兴建了一批军市，今呼和浩特东郊的塔布托村就留有西汉时期的土城遗址。

魏晋南北朝时期

魏晋南北朝时期，鲜卑族拓跋部在北方兴起，其早期都城“盛乐”即在今呼和浩特南面40千米的和林格尔县上土城村北，盛乐经济园区西。

隋唐辽时期

当时，呼和浩特一带是突厥人的活动范围。唐太宗贞观年间，唐军大败突厥于白道（今名蜈蚣坝，在呼和浩特市北）。

708年（唐中宗景龙二年），唐王朝在今呼和浩特周围地区设立了东、中、西3个“受降城”。公元10世纪初，辽国在此设天德军及丰州。丰州故址在今呼和浩特东南约20千米的白塔村附近。

明朝时期

1572年（明隆庆六年），蒙古土默特部领主阿勒坦汗（即俺答汗）来丰州一带驻牧，不久统一了蒙古各地和漠南地区。

1581年（万历九年），阿勒坦汗和他的妻子三娘子在这里正式筑城，城墙用青砖砌成，远望一片青色，“青城”之名由此而来。蒙古语为库库和屯。明王朝赐名为“归化”。长城沿线的人们为纪念三娘子，将此城称作“三娘子城”。

清朝时期

清初，三娘子城焚毁。

康熙三十三年（1694年），在原三娘子城外增筑了一道外城，包围了原城东、南、西三面。后又在距旧城东北2.5千米处另建一驻防城即新城，命名为“绥远城”。新城（绥远城）城内主要是军营；旧城（归化城）内则聚居着居民。清朝末年，将归化和绥远合并，称归绥。

民国时期

1928年，绥远建省，以归绥县城区设立归绥市，作为省会。抗日战争时期，日本侵略者将归绥市改为“厚和特别市”。日寇投降后，复称归绥市。

1949年9月19日，时任国民党绥远省政府主席的国民党将领董其武，接受中国共产党和平解决绥远问题的主张，率部起义，绥远省及省会归绥获得和平解放。

中华人民共和国时期

1950年1月20日，成立归绥市人民政府。

1954年3月5日，内蒙古人民政府、绥远省人民政府委员会、绥远军政委员会、绥远省各界人民代表会议协商委员会在归绥市联合召开扩大会议，绥远省建制和省人民政府同时撤销，原绥远省辖区并入内蒙古自治区，由内蒙古自治区人民政府领导。同时，从1954年4月25日起，将归绥市改名为呼和浩特市，为内蒙古自治区的首府。

1960年原属乌兰察布盟的土默特旗（驻察素齐）划归呼和浩特市领导。

1963年将土默特旗划归乌兰察布盟。

1970年乌兰察布盟所属土默特左旗（驻察素齐）、托克托县划归呼和浩特市。

1995年11月21日，国务院批准将乌兰察布盟和林格尔县、清水河县划归呼和浩特市管辖。

1996年5月18日，国务院批准将乌兰察布盟武川县划归呼和浩特市管辖。

2000年5月14日，国务院（国函[2000]42号）批准：

（1）调整呼和浩特市市辖区行政区划，郊区更名为赛罕区。

（2）调整后各市辖区的行政区域如下：

①新城区：辖锡林郭勒北路、新城东街、新城西街、海拉尔东路4个街道办事处，中山东路街道办事处位于健康街以北、呼伦贝尔南路以西的部分，东风路街道办事处和迎新路街道办事处位于东风路以北的部分，以及从原郊区划入的毫沁营、保合少、小井3个乡，巴彦镇的塔利、生盖营、讨思浩、榆树沟、姚家湾、古路板、甲兰板、野马图8个村委会，巧报乡的府兴营、麻花板、新城、三合村4个村委会。区人民政府驻新城西街。

②回民区：辖通道街、中山西路、环河街、新华西路、光明路、海拉尔西路6个街道办事处，以及从原郊区划入的攸攸板乡，西菜园乡的金龙居委会和青山、厂汉板、倘不浪、西龙王庙、四合兴、什拉门更、小府、塔布板、孔家营9个村委会。区人民政府驻通道南街。

③玉泉区：辖小召、大南街、兴隆巷、长和廊、石羊桥东路5个街道办事处，以及从原郊区划入的桃花、小黑河2个乡，西菜园乡的西霞园、巴彦乌素、芦花园、落雁、辛兴5个居委会和范家营、西瓦窑、五里营、南八里庄、西菜园、南茶坊、碱滩、大围困、南营子、西水磨、辛辛板、小黑河、沟子板13个村委会。区人民政府驻公园西路。

④赛罕区：辖原郊区的太平庄、西把栅、章盖营3个乡和榆林、金河、黄合少3个镇，巧报乡的东瓦窑、后巧报、双树、小台什、帅家营、大台什、桥靠、前巧报8个村委会，巴彦镇的商业街居委会和黑土凹、后罗家营、乔家营、郭家营、坝堰、膝家营、罗家营7个村委会，以及从新城区划入的人民路、大学西路2个街道办事处，中山东路街道办事处位于健康街、乌兰察布西路以南的部分，东风路街道办事处和迎新路街道办事处位于东风路以南的部分。区人民政府驻巧报乡。