Les cavernes des îles ont été peuplées dès les environs de 4000

La baie de Hạ Long a été le théâtre de plusieurs batailles navales. Ce labyrinthe a permis à l'armée vietnamienne de stopper les voisins Chinois par trois fois. En 1288, le général Tran Hung Dao stoppa les Mongols en coulant leur flotte. Des pieux ayant servi à l'époque ont été retrouvés dans la grotte des Bouts de Bois, sur l'île des Merveilles, et sont exposés au musée de Hải Phòng. À la fin du XVIIIe siècle, la baie servait de refuge de pirates, que les autorités chinoises et vietnamiennes ne parvinrent à éradiquer. À partir de 1810, ils abandonnèrent le site et remontèrent les fleuves, chassés par la Royal Navy. Pendant la colonisation, les Français ont cartographié la baie et ont baptisé certains îlots. Comme la baie possèdait des gisements de houille à ciel ouvert, elle fut exploitée par la Société française des charbonnages du Tonkin aux dépens de ses habitants traités en esclaves. Pendant la guerre du Viêt Nam, de nombreux passages ont été minés par les États-Unis, ce qui représente encore une menace de nos jours. Pendant la guerre contre les Américains, la Chine populaire a soutenu le gouvernement du Viêt Nam-Nord en lui envoyant notamment des navires équipés de canons antiaériens. Basés à Hạ Long, ils permettent aujourd'hui à la Marine populaire vietnamienne de surveiller les côtes et d'éventuelles incursions... chinoises.