Pod opieką swojej żony i dwóch hrabiów Plater odzyskał zdrowie. Kolejno Lubeccy przeprowadzili się do Sydney, gdzie urodziły im się dwie córki: Laura i Susan.
Około 1858 Lubeccy przeprowadzili się do stanu Wiktoria, gdzie mieszkali na przedmieściach Melbourne, w Heidelbergu. Lubecki pracował w Melbourne jako cukiernik, a jego żona jako nauczycielka. Syn ich, znany jako Alois Duffus Lubecki, 1 stycznia 1862 wstąpił do wiktoriańskiej służby cywilnej w biurze telegraficznym jako stażysta.
Przeprowadzka do Nowej Zelandii 4 października 1863 roku, po spędzeniu 25 lat w Australii, książę Lubecki, jego żona i córka popłynęli z Melbourne na pokładzie „City of Hobart” do Port Chalmers, w Nowej Zelandii i osiedlili się w Dunedin, gdzie później dołączył do nich ich syn Alojzy Duffus Lubecki.
Zamieszkali w rezydencji na rogu Regent Road i Queen Street, którą nazwali Eden Bank House. „Eden” mogło być odniesieniem biblijnym lub do nazwy statku, na którym przypłynęli z Europy. „Bank” prawdopodobnie odnosił się do stromej pochyłości na froncie nieruchomości. Na bramie znajdował się napis ze słowem „Kłodno”, pochodzący od nazwy miejsca bitwy, w której odniósł zwycięstwo nad armią carską w powstaniu listopadowym.