Józef Unrug, a właściwie Joseph von Unruh, urodził się w 1884 r. w Brandenburgu, nieopodal Berlina. Pochodził z zamożnej, wojskowej rodziny – jego ojciec był generałem gwardii pruskiej, w pewnym sensie wybór kariery żołnierskiej był więc w jego przypadku naturalny. Nie wiadomo jednak, co konkretnie skłoniło go do służby morskiej.
Po ukończeniu gimnazjum w Dreźnie przeszedł trzyletnie przeszkolenie w Akademii Morskiej w Kilonii, które ukończył w 1907 r. w stopniu porucznika marynarki (Leutnant zur See). Na tym nie skończył nauki. Przeszedł także szkolenie minowo-torpedowe, kształcił się w nawigacji podwodnej i strategii prowadzenia podwodnej walki. To ostatnie okazało się szczególnie przydatne podczas I wojny światowej – od 1915 do 1919 r. Unrug był najpierw zastępcą dowódcy, a później dowódcą właśnie na okrętach podwodnych. Na tyle cenionym, że pod koniec wojny został powołany na stanowisko komendanta szkoły okrętów podwodnych.
W kontekście tak błyskotliwie rozwijającej się kariery pozornie zaskakująca może się wydawać decyzja Unruga, by po zakończeniu działań wojennych opuścić armię niemiecką i wstąpić do polskiej. Ale tylko pozornie. Cechą wielonarodowych monarchii, na jakie dzieliła się przedwojenna Europa, było poważne zachwianie tożsamości państwowej. Unrug bez wątpienia był Niemcem i w Niemczech się urodził, jednocześnie jego ojciec posiadał majątek Sielec koło Żnina i on właśnie był domem rodzinnym Józefa. W jego żyłach płynęła również polska krew, a to za sprawą babki, Anny Kurnatowskiej. Związki rodziny Unrugów z Polską były zresztą głębsze i sięgały co najmniej XVII wieku. Niejaki Jerzy Unrug pełnił wówczas urząd starosty gnieźnieńskiego, założył także miasto Kargów. Wiadomo też, że ojciec Józefa, Tadeusz Gustaw Unrug, pod koniec życia bardzo wyraźnie się polonizował, czego wyrazem może być zmiana wyznania z kalwińskiego na katolickie.
W pewnym sensie Polska była ojczyzną Józefa Unruga, choć przez pierwsze trzydzieści lat jego życia nie istniała. Jakiekolwiek jednak były przyczyny tej decyzji, faktem jest, że w 1919 r. Unrug przybył do wolnej już Polski i zgłosił się do służby w armii. Armia zaś przyjęła go z otwartymi ramionami, tym bardziej że polska marynarka w tamtym czasie w zasadzie nie istniała, on z kolei był najlepszym kandydatem na osobę, która mogła ją zorganizować.
Ze stopniem kapitana rozpoczął służbę jako kierownik Wydziału Operacyjnego w Sekcji Organizacyjnej Departamentu Spraw Morskich w Warszawie, a następnie Szefa Sztabu Dowództwa Floty. Floty, której kondycja musiała być mocno frustrująca dla kogoś, kto miał doświadczenie we flocie niemieckiej. Kpt. Unrug zdobył się w każdym razie na gest i za własne pieniądze kupił pierwszy polski okręt ORP „Pomorzanin”. Gest kapitana został doceniony – w 1925 został dowódcą floty polskiej w Gdyni, od 1932 r. już w stopniu kontradmirała. Funkcję tę pełnił do 24 sierpnia 1939 r., kiedy został Dowódcą Obrony Wybrzeża, podległym bezpośrednio Naczelnemu Wodzowi Polskich Sił Zbrojnych gen. Edwardowi Śmigłemu-Rydzowi.
Niemiecki atak na Polskę 1 września był nie do odparcia. Intensywne bombardowania, ostrzał lotniczy i morski szybko zniszczyły nabrzeżne baterie i unieszkodliwiły większość operujących tam polskich okrętów. Część z nich szczęśliwie wcześniej wyszła z portu i udała się w kierunku Szkocji, nie został zatopiony też żaden z okrętów podwodnych, choć te – nieustannie atakowane bombami głębinowymi – nie zadały wrogowi poważniejszych strat. Obrona wybrzeża ze strony polskiej była ograniczona do działań defensywnych, w głównej mierze lądowych, zaledwie wspartych sporadycznym ostrzałem morskim. Sytuacja była z góry przegrana. Armia „Pomorze” została wycofana w głąb lądu, i wybrzeże nie miało żadnego wsparcia od wojsk lądowych. Mimo to broniono się bardzo długo, bo do 1 października, głównie na Helu, gdzie mieściło się dowództwo. Wobec nieuchronności klęski Józef Unrug tego dnia podjął decyzję o kapitulacji.
Wraz z podległymi sobie żołnierzami został osadzony początkowo w oflagu X B Nienburg, a potem, po kilku zmianach miejsca, od 1941 r. do końca wojny przebywał w oflagu VII A Murnau. Znający go w tamtym czasie gen. Tadeusz Piskor wspominał, że nawet w tych warunkach pozostawał żołnierzem wymagającym pruskiej dyscypliny. Był surowy, ściśle przestrzegał hierarchii służbowej, aż do przesady dbał o schludny wygląd żołnierzy. Nigdy się nie śmiał. Ale był niezwykle dumny. Choć po niemiecku z oczywistych powodów mówił znacznie lepiej niż po polsku, z władzami oflagów komunikował się wyłącznie w swoim drugim języku, twierdząc, że 1 września zapomniał niemieckiego. Odmówił również propozycji podpisania listy Ur-Deutscha (Pra-Niemca), awansu i podjęcia walki w szeregach Kriegsmarine. „Jesteście ludźmi niehonorowymi” – miał odpowiadać na składane niemieckie oferty.
Po wyzwoleniu w 1945 r. udał się do Wielkiej Brytanii, gdzie został zastępcą szefa Kierownictwa Marynarki Wojennej Polskich Sił Zbrojnych. Stanowisko nie oznaczało już walki, lecz udział w likwidacji armii. Do Polski już nie powrócił.
Kilka pierwszych lat emigracji spędził w Wielkiej Brytanii, potem przebywał w Maroku, by resztę życia spędzić we Francji, w Lailly-en-Val. Rząd brytyjski przyznał mu emeryturę, Unrug odmówił jednak jej pobierania, uznając, że byłoby to nie w porządku wobec setek innych polskich żołnierzy pozbawionych takiego zabezpieczenia.
Po sprowadzeniu do Wielkiej Brytanii rodziny udał się do Maroka, gdzie pracował w firmie prowadzonej przez przyjaciela, a następnie osiadł we Francji, gdzie dorabiał jako kierowca ciężarówki. Zaczął spisywać wspomnienia, ale ich nie ukończył – zmarł 28 lutego 1973 r. Został pochowany w kaplicy zamku Branickich w Montrésor nad Loarą, ale tylko na czterdzieści pięć lat.
W wyniku starań strony polskiej doczesne szczątki admirała i jego małżonki Zofii zostały ekshumowane i przewiezione do portu w Breście, skąd na pokładzie fregaty ORP „Kościuszko” dotarły do Gdyni. 2 października 2018 r. zostały pochowane w Kwaterze Pamięci na Cmentarzu Marynarki Wojennej.