Barentsburg ble originalt anlagt av det nederlandske selskapet Nederlandsche Spitsbergen Compagnie (Nespico) som ble stiftet i 1921. Etter første verdenskrig trengte landet kull og byen ble oppkalt etter den nederlandske oppdageren som oppdaget Svalbard i 1596. Sviktende kullpriser utover 1920-tallet gjorde at anlegget snart ble lagt i driftshvile og eiendommen ble til slutt solgt til Sovjetunionen i 1932.
Barentsburg ble hovedsete for den sovjetiske virksomheten med eget konsulat. Vinteren 1933/34 var befolkningen nådd 1261 innbyggere hvorav 100 var barn. Etter at Tyskland angrep Sovjetunionen i 1941 ble Barentsburg i likhet med de andre sovjetiske og norske samfunnene evakuert og forlatt. Anleggene skulle egentlig bare ubrukeliggjøres, men som følge av branner som kom ut av kontroll ble også deler av bebyggelsen ødelagt.
Året etter ble en norsk militærgarnison etablert i den forlatte gruvebyen. Den hadde som oppdrag å forsøke å fordrive tyskerne fra øygruppen og hindre dem i å bruke Svalbard i krig. Tyskerne slo tilbake og under angrepet mot de norske styrkene ble majoriteten av den gjenværende bebyggelsen jevnet med jorden.
Etter krigen tok det tid før Barentsburg ble gjenreist. Arbeidet tok til i 1946 - først i 1950 flyttet konsulatet tilbake til byen og Barentsburg ble igjen hovedsetet for den sovjetiske virksomheten. En forskningsstasjon ble anlagt og på starten av 1960-tallet ble det bygget en helikopterbase på Heerodden eller «Kapp Heer» et stykke utenfor gruvebyen. I likhet med Pyramiden undergikk gruvebyen omfattende modernisering på starten av 1970-tallet.
Utover 1980-tallet ble det trangere tider og etter at Sovjetunionen ble oppløst i 1991 ble subsidiene mindre. Den nå russiske virksomheten ble samlet i Barentsburg, men nedgangstidene fortsatte og i dag bor det i underkant av 400 personer der. Gruvedriften pågår fortsatt og det finnes planer om å satse på turisme og forskning slik som man har gjort i Longyearbyen.