“合肥”名称之由来，说法有二。北魏郦道元《水经注》云：夏水暴涨，施（今南淝河）合于肥（今东淝河），故曰合肥。这是一种说法。唐代有人提出另一种说法，淝水出鸡鸣山，北流二十里分而为二，其一东南流（南淝河），经过这里入巢湖；其一西北支（东淝河），二百里出寿春入淮河。《尔雅》上指出“归异出同曰肥”。二水皆曰肥，合于一源，分而为二，故曰合肥。

楚汉相争时,楚霸王封英布为九江王,改九江郡为九江国(治驻寿春)。西汉时(公元前206年-公元23年)此处先是刘邦之子刘长受封的淮南国,汉武帝时为加强中央集权取消淮南国,改为九江郡所属的合肥县。东汉建武年间刘秀封功臣铿镡为合肥候,九江郡又改称合肥国(候国)。三国时(公元202年-265年),是曹魏的扬州州治。晋代(公元265年-439年),属淮南郡,是南北货物运输线商的重要中转站。南北朝时(公元420年-581年),是江淮之间军事上理想的屏障,为南北双方争夺的战略要地。

公元581年隋朝统一中国后,恢复合肥县的名称,是庐州州治的所在地。自此以后,经历唐、五代、宋、元、明、清各个朝代,合肥一直是庐州(庐州府)的州治(或府治)。是古代的地区政治中心。辛亥革命后在这里是合肥县。抗战胜利,曾为国民党安徽省会。解放后,先为皖北行署所在地,1953年后是安徽省省会。
历史表明,合肥历来是一个军事重镇或是地区的政治中心。

合肥是淮军的发祥地，主要淮军将领的故里，《辞海》的“淮军”条中，列出淮军主要将领李鸿章、张树声、刘铭传、周盛波、潘鼎新、吴长庆、丁汝昌、叶志超、聂士成9人中有7位是合肥人，另外2人吴长庆和丁汝昌是原庐州府辖下的庐江人。淮军由李鸿章创立于19世纪60年代，从内地走向沿海、从安徽走向全国、从传统走向近代，将我国历史上几千年的皇家御林军改变为国防军的新式军队，从咸丰到光绪年间，历经半个世纪的兴衰，成为晚清三大政治、军事集团（曾国藩创立的湘军、李鸿章创立的淮军、袁世凯创立的北洋集团）中的一支重要力量，在晚清的政治、军事、外交和经济上都具有举足轻重的作用。

李鸿章是淮军最重要的将领，官至直隶总督兼北洋通商大臣，出将入相历四十年，东亚西欧涉九万里，掌握着清政府的内政外交。同时，李鸿章镇压捻军、太平军，签订了一系列屈辱的不平等条约，成为中国近代史上最具争议的人物之一。

巢湖之滨有一处千年古镇——三河。三水流贯，具有“小桥流水人家”的典型水乡风貌。三河古称“鹊渚”，春秋时就已得名，历史上曾在此发生过著名的吴楚“鹊渚之战”。1858年，太平军又在这里取得了震惊中外的“三河大捷”，留下了古城墙、英王府等历史遗迹。