绥阳，原名“小绥芬”，因小绥芬河从镇中穿过而得名。
隋唐（85年至907年）为“靺鞨”，共分七部。小绥芬河流域属“号宝部”。
公元698年建立“震国”。713年唐朝派使臣崔忻，册封靺鞨末部，首领大祚荣，为忽汗州都督，左骁卫大将军，渤海郡王。“震国”该国号为“渤海”。渤海国建立后，受唐朝册封，称臣纳贡，为唐朝的地方政权，典章制度和文化，完全以唐为宗师。
辽代：（907至1125）把靺鞨改称“女真”，在绥芬河流域设—率宾府，（即今双城子被沙俄侵占后，俄名：乌苏里斯克）。
公元926年为契丹族所灭，改称“东丹国”。
金代：于1125年灭辽，与北宋并存二百年，定都城，于上京会宁府（今阿城县白城遗址），于双城子（乌苏里斯克）设—恤品路，管辖绥芬河流域，乌苏里江流域，东到日本海。共历经九帝119年。我镇属—恤品路。
明代：公元1368年，明太祖洪武建立明朝后，绥芬河流域属于建州女真。
清代：（1611年至1911年）公元1616年努尔哈赤统一了女真各部，建立了后金。1635年改“女真”为“满洲”；1633年改“后金”为“清”。置宁古塔将军，将军治所设立于海林县旧街，（1636）1666年迁宁安。清政府为了饱和祖宗发祥地，对东北地区实行封禁，咸丰十年，（1860年）局部开禁，我镇附近得二次开发，始见人迹；
1882年（光绪八年）完全开禁，施行“移民实边，试办屯田”，内地人民流入渐增；
1882年（清光绪八年），推行“屯垦实边”政策，宁古塔以东设立6屯，绥阳地区设立小绥芬屯。
1898年（清光绪二十四年）开始修筑中东铁路，从海参崴至此设第六站，人们惯称为“六站”。
1903年（光绪二十九年）东清铁路通车后，来自山东的汉民族大批地拥入，自然村屯栉比集成，沿绥芬河流域繁衍生息。
1903年（光绪二十九年）设绥芬厅，划分五个社，我镇属讲礼社。
1910年（宣统二年）成立东宁厅，我镇属东宁厅。
1913年（民国二年）三月成立东宁县，属吉林省延吉道，
1917年（民国六年）划分六个区，我镇为六个区（警察区）。县警察于六站（即小绥芬）设第六分所，但不设行政机构，区的行政事宜由农、商两会掌管，而农商两会附庸于裕宁屯垦公司。自1902年至1932年的十二年中，第四、五、六区，实际上等于裕宁公司的“天下”，公司凌驾于地方政府之上的“独立王国”。
中华民国成立后，隶属东宁县管辖。
1922年，奉系军阀张宗昌出任绥宁镇守使，在绥芬河一带屯兵数万，为了筹措军饷，广种罂粟和开设赌场，外省农民大量流入，小镇人口猛增，耕地发展到三四千垧之多，东北沦陷。
1933年（民国二十二年）日军占领了小绥芬，没收了裕宁公司的土地，归为“国有”（伪满州国），我镇的隶属关系仍沿袭旧制——吉林省东宁县第六区。
1934年设小绥芬保，
1934年（伪康德元年），撤消行政区政为保甲制，绥阳是东宁县的一个保；同年12月1日，东宁县划归滨江省管辖。
1938年伪东宁县公署于此设办事处，因其位于小绥芬河北岸，为“小绥芬河之阳”，遂命名绥阳办事处，从此改称“绥阳”。
1939年（伪康德六年）6月1日成立绥阳县，小绥芬保，改为绥阳街；是绥阳县公署所在地，隶属于牡丹江省。
1939年6月，伪满设置绥阳县，伪满县公署驻地，改为绥阳街。
1945年8月9日光复，“九三”抗日战争胜利。
1946年设绥宁省，绥阳县属于绥宁省。
1946年2月为绥阳县民主政府驻地，仍称绥阳街。同年9月25日撤消绥宁省，隶属于东北政联直属牡丹江行政督察专员公署。
1947年专署改为牡丹江省。
1948年7月9日改隶属于松江省。
1948年10月，绥阳县并入东宁县，绥阳为第二区，并为区政府驻地。同年，在小绥芬河南岸组建绥阳林业局，工业人口逐渐增多。
1949年10月，中华人民共和国建立后，仍为第二区，
1956年5月，撤区划乡，设置绥阳镇。
1958年9月，与金厂、细鳞河乡合并成立曙光人民公社，后改为绥阳公社。
1962年3月，与原金厂、细鳞河两个乡分开，分设绥阳公社和金厂公社、细鳞河公社。
1984年将绥阳公社改称绥阳镇。
2001年3月绥阳镇与细鳞河乡合并为绥阳镇。境内辖：一个街道办事处：10个居委会；24个村委会，48个党支部。