公元前110年（西漢武帝元封元年），海南始置珠崖、儋耳郡，標志著中央政權對海南島及南海諸島直接統治的開始。此后，隨著生產發展和航海技術的進步，我國人民經常航行于南海之上，并在西沙群島和南沙群島一帶居住和生產。南海諸島與祖國大陸的關系越來越密切，歷代統治者對南海和南海諸島的認識不斷加深。
唐代唐代，海南島環島已建置有北部的崖州、西部的儋州、南部的振州（今三亞市），振州，前身為臨振縣，607年（隋朝大業三年），增設臨振郡，622年（唐高祖武德五年）改郡為州，時號振州。《舊唐書地理志》（嶺南道:振州）中已有振州管轄海南島南部海域的記載。自此以后大陸中原王朝對南海諸島的行政管轄從未中斷過。724年（唐開元十二年），由僧一行等人主持子午線測量，南至南海及南海諸島，并曾在南海上對有關星座進行了測量。這是行使主權之舉。
宋代位于海南島島北的崖州南移，改振州為崖州，后易名為朱崖軍，繼后又改為吉陽軍。由吉陽軍直接管轄南海諸島。當時，北宋朝廷首命水師出巡至“九乳螺州”（即今西沙群島），這是我國海軍最早的巡海活動。
元朝1278年（元世祖至元十五年），將海南的瓊州改為瓊州路。仍由吉陽軍管轄南海諸島。是時，宋代的軍制多已改州，唯四川行省的長寧軍和湖廣行省的南寧（今儋州市）、萬安（今萬寧市）、吉陽（今三亞市）三軍未改，是以特殊行政制度管理邊疆的方法，可見其統治者對海防邊疆的重視。元世祖忽必烈還親派著名天文學家郭守敬到西沙群島進行天文觀測，表明主權歸屬元代王朝而無疑。
明朝海南設立統一的地方行政管理機構——瓊州府，隸屬廣東。恢復崖州、儋州、萬州。將南海諸島劃歸瓊州府領屬的萬州管轄。并明確區分為“南澳氣”、“七洲洋”、“萬里長沙”、“萬里石塘”等四大島群（即今的東沙、西沙、中沙、南沙群島）。
清朝前期和中期基本沿襲明制不變。至清明后期，東沙群島歸屬惠州管轄。西沙群島、南沙群島、中沙群島仍由海南的萬州管轄。自此南海諸島分屬于不同的兩個州級地方行政機構管轄。
民國1911年辛亥革命后，廣東省政府宣布把西沙群島劃歸海南崖縣（今三亞市）管轄。1921年，南方軍政府又重申了這一政令。
第二次世界大戰結束后，根據1947年中英美三國的《開羅宣言》和1945年7月《波茨坦公告》的精神，中國政府指派高級專員，前往西沙群島進行接收，在島上舉行接收儀式，重豎主權碑；并在南沙群島中最大的島嶼——太平島駐軍隊和設立漁民服務站。
中華人民共和國我國政府繼續對西沙群島、南沙群島、中沙群島的島礁及其海域行使主權，對行政管理體制的調整和完善。
1959年3月24日，中央政府批準成立“西南中沙工作委員會”，并設立了西沙群島、南沙群島、中沙群島辦事處（簡稱西南中沙群島辦事處），當時隸屬于廣東省。
1969年3月4日更名為“廣東省西、南、中沙群島革命委員會”。
1981年10月22日再次恢復為“廣東省西沙群島、南沙群島、中沙群島辦事處”的縣級辦事機構。
1984年10月1日海南行政區成立后由行政區人民政府接管。
1988年4月13日海南建省成立后，西南中沙辦也隨之劃歸海南省管轄。
1988年9月19日正式更名為“海南省西沙群島、南沙群島、中沙群島辦事處”（簡稱西南中沙群島辦事處）。為海南省人民政府的派出行政機構，為縣級編制。中國共產黨海南省委員會的派出機構為“中國共產黨海南省西沙群島、南沙群島、中沙群島工作委員會”（簡稱西南中沙群島黨工委、西南中沙工委或西沙工委等），與辦事處合署辦公，實行“兩塊牌子，一套班子”的體制。工委、辦事處駐西沙群島以及整個南海諸島中最大的島嶼永興島，負責行使西沙群島、南沙群島、中沙群島及其邊臨海域的主權與管轄權。海南省西沙群島、南沙群島、中沙群島辦事處下分西沙群島、中沙群島、南沙群島三個鄉級行政區。
2007年11月19日，國務院批準海南省人民政府的提議，將設立正式的縣級市“三沙市”，取代海南省西沙群島、南沙群島、中沙群島辦事處來管理這三個群島，此次設立縣級市三沙市因越南方面風波而被迫中止，但仍然掛名存在。并將由距離西沙群島最近的文昌市來承擔三沙市的補給工作，三沙市的后勤補給基地、碼頭供給基地將會建在文昌市的清瀾港。
2012年6月21日，國務院正式批準撤銷海南省西沙群島、南沙群島、中沙群島辦事處，將此前的縣級三沙市升格并設立為地級市“三沙市”，管轄西沙群島、中沙群島、南沙群島的島礁及其海域。三沙市人民政府駐西沙永興島。
