W dzieciństwie często chorował, w tym, do trzynastego roku życia, na malarię. Gdy udało mu się wyleczyć, stał się również aktywny sportowo (łyżwy, fechtunek, jazda konna, polowanie) co znacznie wzmocniło go fizycznie. W wieku 17 lat porzucił praktyki religijne i stał się agnostykiem. Mimo to nadal utrzymywał serdeczne relacje z proboszczem parafii do której przynależał dwór rodziców w Borowie, gdzie często spędzał wakacje.
W tym samym czasie, będąc w VII klasie, zaangażował się do istniejącego w jego gimnazjum kółka samokształceniowego. W kolejnym roku został powołany do Centralizacji Związku Kółek Gimnazjalnych Królestwa (później dołączył do niej także jego młodszy brat Władysław). W związku z potrzebą przygotowania planu kształcenia członków Kółek w naukach społecznych zapoznał się z Józefem Potockim. Stał się on dla Grabskiego swego rodzaju przewodnikiem, dzięki któremu zapoznał się też z innymi członkami redakcji „Głosu” (tygodnik krytyczny wobec Ugodowców oraz liczący na aktywizację polityczną robotników oraz chłopów), a także z myślą Herberta Spencera, która wpływała na światopogląd Grabskiego.