był prezesem warszawskiego oddziału Ligi Morskiej i Rzecznej, a w 1923 zorganizował w Warszawie pierwszą wystawę morską. Brał udział w organizowaniu jachtklubu w Warszawie, a także w powołaniu miesięcznika "Morze". W 1924 jako oficer rezerwy został powołany do czynnej służby. W styczniu 1925 został przydzielony z Kierownictwa Marynarki Wojennej do Wojskowego Komisarza Żeglugi Śródlądowej przy Oddziale IV Sztabu Generalnego. Zajmował się przygotowaniem i rozwojem rzecznego transportu śródlądowego do celów militarnych. W listopadzie 1926 został oddany do dyspozycji szefa KMW. W 1927 został przeniesiony do KMW i w składzie komisji pod przewodnictwem kmdra Xawerego Czernickiego wysłany do Francji celem nadzorowania pod względem technicznym budowy polskich niszczycieli OORP „Burza” i „Wicher” oraz okrętów podwodnych typu Wilk, przy czym wytykał kilkakrotnie niedociągnięcia w budowie. Powrócił do kraju dopiero we wrześniu 1932.

W 1933 Rylke objął stanowisko kierownika Wydziału Budowy Okrętów w Służbie Technicznej KMW, w stopniu komandora porucznika. Przewodniczył komisji wybierającej oferty na budowę stawiacza min ORP „Gryf”.