阳江之名来源于“漠阳江”，而漠阳江起名又源阳“莫阳”，阳江最早叫“莫阳”，为什么呢？因为阳江古时候属于古越，居住的多是越人。古越语中，“牛”为“莫”，（阳江现在称“牛”还叫“牛么”）；“羊”越语为“阳”，和太阳的“阳”。“莫阳”就是牛羊的意思，这说明古代的阳江曾是牛羊聚居的地方，或者是牛羊集市。江边现有一村，叫牛场村。这条江在莫阳，故此叫漠阳江。中国古代地理立位，山北水南曰阴，山南水北曰阳，我们阳江在江之北，所以叫阳江。

  阳江作为古高凉县、郡的治所，已经有1000多年历史，但相当长的一段时间内，“阳江”还只是个地域概念，未有具体的城市存在。宋代以前的阳江，作为一个地方的文化、经济、政治中心，也不过是一个地形相对高起来的山坡或土墩而已。隋大业二年（公元606年），阳江正式始为阳江县。宋绍圣四年（1097年）知州丁琏（番禺人）依鼍山（现在江城第一小学周围）筑起一座土城，这就是阳江城的老祖宗。长期以来，阳江的治地中心都在鼍山脚下，因此阳江又称鼍城。

  距今1万年以前，阳江就已经有人类居住。秦始皇统一全国后，在岭南设置了桂林郡、南海郡、象郡，两阳（指阳江、阳春，下同）初属其中的南海郡。公元前111年（汉武帝元鼎六年）新设合浦郡高凉县，治所在今阳东县大八镇古城（另一说在麻汕上塘村）。高凉县包括今阳江市、恩平市西部、茂名、高州、电白、化州、吴川和罗定的部分地方。

  东汉末，两阳属东吴统治范围。公元220年（东汉建安二十五年）孙权将高凉县从合浦郡分出，设高凉郡，由广州管辖。公元527年（南梁大通元年）高凉郡从广州分出，与杜陵郡、宁康郡、阳春郡等合设为高州。高州州治中心在今江城区（从公元527年至649年），辖今阳江市及茂名市的大部分地方。公元606年（隋炀帝大业二年）隋政权把安宁县、高凉县分出部分地方合成一个新县——阳江县。在原阳春郡中设阳春县。阳江县、阳春县从此得名。

  公元649年（唐太宗贞观二十三年）阳江县、西平县、阳春县、杜陵县等从高州分出，建为恩州，属广州都督府管辖。恩州州治在阳江，从贞观年间唐太宗时建恩州起至洪武元年（1368年）朱元璋撤除恩州止，两阳被称呼为恩州达719年。此后两阳归肇庆府管辖。

  公元1867年（清同治六年）阳江县升格为直隶州，下辖阳春、开平、恩平等县。公元1870年（同治九年）阳江直隶州改为直隶厅。公元1906年（光绪三十二年），阳江直隶厅再改为直隶州。公元1912年（民国元年）撤除州府，复设阳江县、阳春县。

  中华人民共和国成立后，阳江、阳春属江门粤中专区；1953年改属粤西行署；1956年改属湛江专区；1958年冬，合阳江县、阳春县为两阳县；1961年复分为阳江县、阳春县。1983年9月为江门市属县。1988年2月10日，原阳江、阳春两县从江门市分出，新建为阳江市，属地级市建制。