Karierę przerwała w 1885 decyzja rządu o jego wydaleniu z kraju, spowodowana aktywną działalnością Gastera na rzecz równouprawnienia Żydów i jego krytyką antysemityzmu w Rumunii. Zatrudnił go Uniwersytet Oksfordzki na stanowisku wykładowcy literatury słowiańskiej. W 1887 został nadrabinemMaciej Łagiewski, 1997: Życie religijne gminy żydowskiej we Wrocławiu. W: Portret wrocławskich duchownych. Muzeum Historyczne we Wrocławiu, 1997, strona 65. gminy sefardyjskiej w Wielkiej Brytanii i funkcję tę pełnił do 1918, a w 1891 mianowano go dyrektorem żydowskiego seminarium teologicznego Judith Lady Montefiore College w Ramsgate, które to stanowisko piastował do 1896.
Zainteresowania naukowe Gastera były dość różnorodne: literatura i filologia rumuńska (m.in. opracował chrestomatię tekstów rumuńskich z lat 1550–1830), słowiańska, żydowska i samarytańska; folklorystyka rumuńska, żydowska i ogólnoeuropejska, w tej ostatniej głosił tezę o dużym wpływie wierzeń bogomiłów na folklor w różnych krajach Europy i na mistycyzm żydowski. Ponadto Gaster był kolekcjonerem – bibliofilem dokumentów piśmienniczych związanych z judaizmem, historią i kulturą żydowską i samarytańską.