初始元年(8年)，王莽废汉孺子刘婴，自立为帝，建国号新，史称新莽。新莽时期，郡国区划、建置无常，地名屡易，甚至一年五易地名，百姓苦不堪记忆。先是于始建国四年(12年)依《尧典》分全国为十二州，后又从《禹贡》之说分全国为九州。天凤元年(14年)，又置州牧、部监，分合郡县，改易官称。分并州牧置朔部牧，将西汉太原郡领辖的界休改为界美，榆次改为太原亭，于离改为于合，兹氏改为兹同，狼孟改为狼调，平陶改为多穰，京陵改为致城，大陵改为大宁，祁改为示，阳邑改为繁穰，广武改为信桓。　　东汉
建武元年(25年)，刘秀推翻王莽，建国号汉，史称东汉。
东汉建武初，整顿建置，废除新莽时的建置及郡国、县名称，恢复西汉旧称；仍分全国为十三州刺史部。并州刺史部仍监察太原等九郡，州、郡治所仍设在晋阳。建武二年，改太原郡为太原国，都晋阳。经西汉末年的战乱，户口锐减，官职繁多，建武六年(30年)六月诏令全国并省四百余县。
西汉
太原郡二十一县中，废去人、汾阳二县；划广武、原平二县属雁门郡，上艾县归常山国。建武十四年(38年)废太原国，改置太原郡，治所未变。
东汉太原郡辖晋阳、界休、榆次、中都、于离、兹氏、狼孟、邬、盂、平陶、京陵、阳曲、大陵、祁、虑、阳邑十六县。
三国
东汉末世，外戚、宦官争权，军阀割据，战火又起。献帝初平四年(193年)，并州为公孙瓒的势力范围；建安三年(198年)又为袁绍占据。袁绍以甥高领并州牧。
建安十一年(206年)春，曹操征伐高，并州及所辖太原郡地归于魏。十八年(213年)，魏为了扩大势力范围，省并州，合并其地于冀州，太原郡县属冀。二十年(215年)，分太原郡北部置新兴郡，后又分东部地置乐平郡。
魏文帝黄初元年(220年)，复置并州，改太原郡为太原国。后又废国复置郡。并州领太原、上党、西河、雁门及新设置的新兴、乐平六郡。并州、太原郡治所皆在晋阳。
三国魏时，太原郡辖晋阳、阳曲、榆次、盂、祁、京陵、中都、大陵、平陶、狼孟、阳邑、邬十二县。
晋、十六国
魏咸熙二年(265年)，司马炎迫魏元帝曹奂禅位，易魏为晋，史称西晋。
西晋时期，沿魏并州建置未改。泰始元年(265年)，改太原郡为太原国，都晋阳。并州刺史部统太原国、西河国及上党郡、乐平郡、雁门郡、新兴郡六郡国。太康五年(284年)，废太原国，改置为郡。
西晋之世，太原郡辖晋阳、阳曲、榆次、于离、盂、狼孟、阳邑、大陵、祁、平陶、京陵、中都、邬十三县。州刺史部、太原国、太原郡治所皆设于晋阳。
西晋末年，北方民族崛起，纷纷建立割据政权，互相攻战，进入了史称的十六国时期。
永兴元年(304年)，匈奴族人刘渊于左国城(今离石东北)建立汉国，后改国号为赵，史称前赵。
前赵不断劫掠并州郡县，加之并州于光熙元年(306年)发生饥荒，郡县难以自保，州刺史司马腾率众万人于冀州就食，号“乞活”。永嘉元年(307年)，晋以刘琨为并州刺史、领匈奴中郎将。
前赵嘉平二年(晋永嘉六年，312年)，刘聪派子刘粲，乘刘琨领精兵出防雁门乌丸族反叛之机，袭破晋阳，太守高乔以城降。四个月后，刘琨在代公猗卢配合下收复晋阳。经此一战，晋阳城池残破，军民逃散。刘琨留部将箕澹、段繁戍守晋阳，自领兵移驻阳邑(今太谷)，招集亡散。
麟嘉元年(晋建兴四年，316年)，前赵将军石勒攻打乐平(今昔阳)，刘琨率全部精兵救援，途中被石勒设伏兵击败，全军覆没，并州震惊。留守晋阳的东晋司空长史李弘以城降石勒，太原地为前赵所占据。
光初二年(319年)冬十一月，石勒自称赵王，都襄国(今河北邢台)，史称后赵，太原地归后赵。
后赵改太原郡为太原国，属并州刺史部辖领，都晋阳。
后赵永宁元年(350年)，冉闵灭后赵，并州为后赵刺史张平所据。为图自保，张平先以并州六郡依附前秦苻坚，不久降前燕，东晋升平元年(357年)又降晋，皆被授以官职。张平的反复无常，不但未能自保，反而为并州引来连年战火。
前燕光寿二年(358年)，燕王慕容遣司徒慕容评讨伐张平，并州各郡县纷纷投降。张平率三千兵众弃晋阳逃往平阳(今临汾)，复请降燕。太原地区为前燕据有。
建熙十年(东晋太和四年，369年)，东晋派大司马桓温伐燕。前燕主慕容，以割地为条件，求前秦苻坚援救。及桓温被击退，违约。苻坚大怒，次年遣将军王猛、杨安率步骑六万，兵分两路伐燕。九月，挖地道攻克晋阳，太原地又落入前秦之手。
前秦建元二十年(384年)，苻坚亡。并州刺史王腾迎苻坚庶长子苻丕入晋阳，于太安元年(385年)即皇帝位，以晋阳为都。次年，苻丕率兵与西燕慕容永战于襄陵(今襄汾境内)，兵败被杀，太原地区又为西燕所据。
后燕建兴九年(394年)，慕容垂遣龙骧将军张崇攻晋阳，西燕守将弃城而逃，太原地复为后燕所得。
自公元304年，止于公元394年，短短九十年间，太原地区先后为西晋、前赵、后赵、前燕、前秦、西燕、后燕交替占据。兵祸连年，境土屡分，国号几易，治所时迁，建置不能悉详。