W latach 1924–1926 Zaręba napisał tekst do hymnu V Drużyny Harcerskiej „Białej piątki” oraz był jednym z redaktorów czasopism harcerskich wydawanych w V KDH, były to czasopisma: „Płomienie” dla starszych harcerzy oraz „Wilczek” dla zuchów. W 1924 po ukończeniu gimnazjum został przyjęty na Wydział Filozoficzny Uniwersytetu Jagiellońskiego w Krakowie, gdzie studiował filologię polską. Pod kierunkiem prof. Ignacego Chrzanowskiego obronił w 1933 doktorską o „Anonimie Protestancie”. Następnie Zaremba podjął pracę nauczyciela w gimnazjach: w Sosnowcu, Mysłowicach, Boguminie. Podczas studiów pisał swoje pierwsze utwory literackie, nawiązał kontakt ze środowiskiem młodych twórców śląskich, opublikował swoje utwory literackie w piśmie literackim „Fantana”, jego utwory literackie emitowane były także w Rozgłośni Polskiego Radia w Katowicach. Głównym tematem prac badawczych i dydaktycznych Zaremby była literatura staropolska regionalna – śląska. Pod koniec 1930 wraz z pisarzami: Janem Baranowiczem, Wilhelmem Szewczykiem, Aleksandrem Widerą założył grupę literacką która była nazywana Zespołem Literackim „Kuźnica”. Ta grupa literacka jako nowe pokolenie pisarskie wychowane w niepodległej Polsce miała ambicje podniesienia jakości życia literackiego na Śląsku, integracji regionu śląskiego z resztą kraju, także w dziedzinie kultury.