十二连城古城，位于今十二连城乡黄河南岸，原有城垣12座，人称十二连城，现存城垣5座。隋唐胜州榆林城有南北贯通城墙，将城分为东西两城，西城为市肆坊区，东城为官署和寺庙区，全城墙总长4387米，是一座规模较大的州城。明代东胜右卫城在隋唐城址西北角，有南北墙将城分为东西两城，南北长1039米，东西宽857米。汉沙南县城在明代城垣南面，只难看出一点痕迹，南北长约165米。

汉代沙南县，去中郡属县，河西置县，扼控两岸交通。

隋开皇三年（公元583年），在河套东北角拐湾处置榆林关；七年（公元587年）改为县治；二十年（公元600元），置胜州，领榆林（今准格尔旗十二连城古城）、富昌（在今黄莆川古城）、金河（故址可能在今托克托县哈拉板申古城）三县，治所在榆林县城；大业三年（公元607年）改胜州为榆林郡，仍领榆林、富昌、金河三县。大业十三年（公元617年），郡人郭子和投突厥。唐武德四年（公元621年），讨平梁师都，第二年置胜州，时逢击败东突厥，以决胜为名，领榆林，河滨二县，郡治榆林县。

此地横跨南下黄河，纵卧京畿北屏，为边防重地，因隋文帝将两位公主下嫁此地，炀帝在些宴启民部三千五百人，而名扬天下。公元916年，辽太祖耶律亿阿保机置东胜于河东，迁胜州百姓于东胜州，胜州废，明初在东胜州城址置东胜卫，河西胜州城址筑东胜右卫城，是北部连境军事重地。

2006年，列为全国重点文物保护单位。