25 marca tego roku wyruszył z dowództwem Frontu Pomorskiego do powiatu dziśnieńskiego, na froncie bolszewickim. Przeżył odwrót z Głębokiego, aż do Małkini. 1 sierpnia 1920 r. przeniesiono go, jako dziekana do 3. armii, która cofała się od Kowla przez Chełm do Lublina. Pomagał księżom kapelanom w szpitalach oraz przygotowywał na śmierć rannych żołnierzy. Wtedy też zrodziła się w nim myśl zaopiekowania się sierotami po poległych żołnierzach.
Działalność w Bydgoszczy Już w listopadzie 1920 r., podczas pierwszego urlopu w wojsku, zachęcony przez gen. Hallera i prymasa Polski ks. kard. Edmunda Dalbora, rozpoczął przygotowania do utworzenia zakładu dla chłopców. Uzyskawszy zwolnienie ze służby wojskowej, udał się do Bydgoszczy, gdzie szukał odpowiedniego domu dla „synów obrońców Ojczyzny”. Znaleziony 10-pokojowy dom na przedmieściu Wilczak, został zakupiony przez Zarząd Główny Polskiego Czerwonego Krzyża i przeznaczony na „Dom Św. Józefa dla synów obrońców Ojczyzny im. gen. Józefa Hallera”. W lipcu 1921 r. z pomocą zdemobilizowanego kapitana Wojciecha Albrychta, rozpoczął przygotowania do przyjęcia pierwszych chłopców. W miesiąc później w domu mieszkało już 20 chłopców z różnych części Polski. O. Rydlewski kierował placówką do początku lat 30. XX w.