西汉元鼎六年（前111年）汉闽越王郢出兵攻南越，南越请求内附。南越平定后，建为汉十三州之一的交州，又增设了两个县揭阳县（今潮汕梅榕一带）、中宿县（今清远一带）。在汉代，海陆丰地区全境属交州南海郡傅罗县。东晋咸和元年（326年）析南海郡东部置东官郡。咸和六年（331）年，从博罗县析出宝安县、海丰县、安怀县（今东莞市）；同年，原揭阳县拆为海阳县、潮阳县、绥安县（今福建省云霄县）、海宁县等四县。海丰县，隶属东官郡，辖地包括现汕尾市全境及惠来、普宁、揭西之部分地区。
隋文帝开皇十一年（591年），东官郡与梁化郡等并置为循州，海丰县改属循州。唐高祖武德五年（622年），岭南俚帅杨世略以循、潮二州来降，遂被唐朝政府封为循州总管，循州总管府初辖循、潮、韶三州；析海丰县东部置安陆县，安陆县治设在大安屯（今陆丰大安镇辖地），辖今之陆丰市、陆河县及惠来、普宁、揭西之一部，至唐太宗贞观元年（627年），废安陆县，复并入海丰县，仍隶属循州；循州总管府裁撤，并入广州总管府。 五代十国时期，循州改为祯州，汕尾随属祯州。宋开宝四年（971年）设广南东路祯州，天禧五年（1021年），因避太子赵祯（后即仁宗）名讳，改祯州为惠州，时海丰、博罗、河源、归善（今惠东）四县均属广南东路惠州。海丰县辖兴贤、金锡、杨安、石塘、石帆、吉康、坊廓、龙溪等8都。元代，汕尾地区属江西行中书省广东道惠州路；明代属广东布政使司惠州府；清代属广东省惠州府；清雍正九年（1731年），析海丰县东部之石帆、坊廓、吉康三都置陆丰县。县治在东海（今陆丰东海镇），海丰、陆丰两县同属惠州府。民国初年，隶属广东省潮循，民国19年（1930年），隶属广东省第4行政督察区。
1949年中华人民共和国成立后，海丰、陆丰均属粤东江专员公署管辖；1953年改属东行政公署；1957年隶属惠阳专员公署；1958年12月划归汕头地区专员公署；1983年9月，又归属惠阳地区专署管辖。1988年1月，经国务院批准，在原海丰、陆丰两县的行政区域上设置地级汕尾市，并析丰县南部沿海的汕尾、红草、马宫、东涌、田墘、捷胜、遮浪7镇建置市城区；设陆丰县北部山区的河田、河口、新田、螺溪、水唇、上护、南万、东坑等8个镇设置陆河县。1995年，经国务院批准，陆丰撤县建市（县级市），由省政府直辖，委托汕尾市人民政府代管。
1992年底，市城区设出田墘镇、遮浪镇，新建红海湾经济开发试验区。1995年，设原陆丰所辖华侨农场为华侨管理区。以上两区属市政府派出机构