Po kilku latach podróżowania po Francji powrócił do Polski. Mieszkając w domu swojego brata, miał kontakt ze spirytyzmem. Spotykała się tam mała grupa, która eksperymentowała z działaniem tabliczki Ouija. Oleszyński miał umysł otwarty na wszystko, szybko jednak zrezygnował z przeprowadzania takich eksperymentów.
Został powołany do odbycia obowiązkowej służby w armii carskiej na okres trzech lat. W jej trakcie spotkał baptystów, od których otrzymał Nowy Testament. Pierwszy raz w życiu posiadał tę Księgę. Przyjaźniąc się z baptystami, rozpoczął dyskusje religijne z nimi oraz zainteresował się treścią Biblii. Później wspominał tę służbę jako okres, gdy dyscyplina wojskowa pomogła mu w rozwijaniu charakteru. W trakcie służby wojskowej nabawił się jednak tyfusu i zapalenia płuc. Po przewlekłej chorobie powrócił do zdrowia, lecz dolegliwości spowodowane tamtymi chorobami odczuwał do końca życia. Wiedziała o nich tylko jego rodzina i najbliżsi przyjaciele.
Wyjazd do Stanów Zjednoczonych Po zakończeniu służby wojskowej, podobnie jak poznany przez niego w armii przyjaciel, baptysta, postanowił wyjechać do Ameryki. W 1891 roku, w wieku 34 lat, przez Hamburg wyruszył do Nowego Jorku. Stamtąd wkrótce udał się do Chicago.