W wieku 20 lat Żeleński miał już w swoim dorobku kompozytorskim dwa kwartety smyczkowe, trio fortepianowe oraz Uwerturę na orkiestrę, której prawykonaniem osobiście dyrygował na koncercie 29 lipca 1857 w Krakowie.
W 1857 r., na życzenie matki, rozpoczął studia na wydziale filozoficznym Uniwersytetu Jagiellońskiego, które kontynuował na Uniwersytecie Karola w Pradze, uzyskując w 1862 tytuł doktora.
W Pradze podjął też dalsze studia muzyczne, gdzie od 1859 kształcił się w zakresie gry fortepianowej u Alexandra Dreyschocka. Wkrótce porzucił jednak myśl o karierze pianistycznej, koncentrując się na studiach kontrapunktu i gry organowej pod kierunkiem Josefa Krejčiego. Nie jest pewne czy był formalnie studentem tzw. Praskiej Szkoły Organowej, której Krejči był dyrektorem, czy raczej został jego prywatnym uczniem.
Z końcem 1866 r. rozpoczął studia kompozytorskie w Konserwatorium Paryskim u Napoléona-Henriego Rebera, pracując równocześnie nad swoją nigdy nieukończoną operą Dziwożona. W latach 1868–1870 prywatnie uzupełniał studia kompozytorskie u Bertolda Damckego. Z tego okresu pochodzi symfoniczny obraz charakterystyczny W Tatrach.