W 1895 roku postanowił odwiedzić swoją rodzinę w Warszawie z zamiarem podzielenia się wierzeniami Badaczy Pisma Świętego. W kraju jednak został źle przyjęty i zawiedziony wrócił do Stanów Zjednoczonych. Przez najbliższych i znajomych został uznany za fanatyka lub człowieka, który zagubił gdzieś swój rozsądek. W drodze powrotnej do Chicago jechał przez Egipt, by zwiedzić Wielką Piramidę, uważaną przez Badaczy Pisma Świętego za „Biblię w Kamieniu”. Po powrocie do Ameryki w Pittsburghu odwiedził Charlesa T. Russella. Ten, pomimo jego słabej znajomości języka angielskiego, widząc jego gorliwość i entuzjazm, powierzył Oleszyńskiemu działalność wśród amerykańskiej Polonii.

W 1896 roku Oleszyński założył pierwszy polski zbór w Chicago, który liczył wtedy zaledwie 5 członków. W następnym roku zbór liczył już 22 osoby, była to jednak liczba ruchoma. Oleszyński usługiwał temu zborowi mieszkając na przedmieściach Chicago, a na zebrania musiał pokonywać rowerem 22 mile. W okresie tym zapoznał z wierzeniami Badaczy Pisma Świętego Wincentego Kina, który również przyjechał z Warszawy.