春秋战国时期为鳖国地。秦时以鳖国地置鳖县，包括现今遵义、绥阳、桐梓县等。唐初，先后名为建安县、

恭水县、罗蒙县。唐贞观十六年（642年）改罗蒙县为遵义县，遵义县名从此开始。

元至元二十八年（1291年）置播州总管府，属播州军民安抚司。明洪武五年（1372年）改播州总管府为播州长官司。属播州宣慰司。明万历二十九（1601年）改播州长官司为遵义县，属四川遵义军民府。清雍正六年（1728年）随遵义府改隶贵州。

民国元年（1912年）将遵义县并入遵义府，后撤府复县。1950年属遵义专区，同年遵义市、县分开。1951年将遵义市并入。1952年又与遵义市分开。1958年撤县并入遵义市。1961年8月16日，恢复遵义县建置。[4]