汕尾市历史悠久，源远流长。据东南沿海出土文物考证，距今6000年前的新石器时代，就有先民在此渔猎种植，生息繁衍。《禹贡》有九州之说，时汕尾属九州中的扬州南境；《周礼·夏官·职方》称为藩服之地；春秋属南越；战国入楚称百越，秦至汉初，汕尾全境均属南海郡博罗县地域。汉元鼎六年（公元前111年）汉平南越，置海丰县。为汕尾地区有县级建置的开始，距今已有2110年。时海丰县隶属东官郡，辖地包括现汕尾市全境及惠来、普宁、揭西之部分地区。

隋文帝开皇十一年（591年），东官郡与梁化郡等并置为循州，海丰县改属循州；唐高祖武德五年（622年），析海丰县东部置安陆县，安陆县治设在大安屯（今陆丰大安镇辖地），辖今之陆丰市、陆河县及惠来、普宁、揭西之一部，至唐太宗贞观元年（627年），又废安陆县，并复海丰县，仍隶属循州。五代十国时期，循州改为祯州，汕尾随属祯州。宋开宝四年（971年）设广南东路祯州，天禧五年（1021年），因避太子赵祯（后即仁宗）名讳，改祯州为惠州，时海丰、博罗、河源、归善（今惠东）四县均属广南东路惠州。海丰县辖兴贤、金锡、杨安、石塘、石帆、吉康、坊廓、龙溪等8都。元代，汕尾地区属江西行中书省广东道惠州路；明代属广东布政使司惠州府；清代属广东省惠州府；清雍正九年（1731年），析海丰县东部之石帆、坊廓、吉康三都置陆丰县。县治在东海（今陆丰东海镇），海丰、陆丰两县同属惠州府。民国初年，隶属广东省潮循道，民国19年（1930年），隶属广东省第4行政督察区。　　

中华人民共和国成立后，海丰、陆丰均属东江专员公署管辖；1953年改属粤东行政公署；1957年隶属惠阳专员公署；1958年12月划归汕头地区专员公署；1983年9月，又归属惠阳地区专署管辖。1988年1月，经国务院批准，在原海丰、陆丰两县的行政区域上设置地级汕尾市，并析海丰县南部沿海的汕尾、红草、马宫、东涌、田、捷胜、遮浪7镇建置市城区；析陆丰县北部山区的河田、河口、新田、螺溪、水唇、上护、南万、东坑等8个镇设置陆河县。市政府驻市城区。1992年底，在市城区田镇、遮浪镇设立红海湾经济开发试验区。1995年，在陆丰所辖的华侨农场设立华侨管理区（以上两区行政区划仍属市城区和陆丰市）。1995年，经国务院批准，陆丰撤县建市（县级市），由省政府直辖，委托汕尾市人民政府代管。