隋开皇初年，废肥城郡，保留肥城县，属济州辖，隶属兖州。隋末，废肥城县，境地属济北郡管辖。
唐代622年（武德五年）复置肥城县，属东泰州辖，隶属河南道兖州。627年（贞观元年）撤肥城县，境地并入博城县。666年（乾封元年）改博城县为乾封县。668年（总章元年），改乾封县复为博城县。705年（神龙元年）再次改称乾封县。
五代（907～960年）境地仍属乾封县，隶属兖州。
宋代（960～1279年）初属乾封县，后属奉符县、平阴县分辖，隶属京东西路郓州。1115～1234年曾在旧肥城设辛寨镇，境地属平阴县、奉符县分辖，隶属山东西路东平府。
元代1275年（至元十二年）复置肥城县，隶属山东东西道济宁路。
明代1369年（洪武二年），肥城县改属济南府，隶属山东布政使司。
清代初沿明制。1734年（雍正十二年）改属泰安州，隶属山东布政使司泰武道。1735年（雍正十三年）泰安州升为泰安府，肥城县仍属之。1913年属岱北道。1914年属济南道。1938年，属第六行政督察区。1945年2月属鲁西（第二办事处）第六行政督察专员公署。1947年属第十五行政督察区。

1939年10月，中国共产党领导的县抗日民主政府成立，初属泰西行政委员会，后属泰西专员公署。1942年10月属晋冀鲁豫边区政府冀鲁豫第六专员公署。1949年9月，隶属泰西专员公署。

1950年5月，肥城县归属泰安专员公署。1958年10月划归聊城地区。1959年7月划归济南市。1961年5月复归泰安地区。1985年3月隶属泰安市所辖。

1992年8月，撤销肥城县，设立肥城市（县级），仍为泰安市所辖。