Po śmierci Wegeliusa w 1906 roku, przez rok kierował Helsińskim Instytutem Muzycznym. W 1908 roku został członkiem szwedzkiej Królewskiej Akademii Muzycznej.
Järnefeltowie rozwiedli się w 1908 roku – Maikki poślubiła kompozytora i pianistę Selima Palmgrena (1878–1951), a Armas szwedzką śpiewaczkę Olivię Edström (1876–1971). W 1909 roku Järnefelt został dyrygentem Opery Królewskiej w Sztokholmie, gdzie zamieszkał na stałe. W tym samym roku uzyskał obywatelstwo szwedzkie.
W latach 1932–1936 Järnefelt pełnił funkcję dyrektora artystycznego Opery Fińskiej. W latach 1942–1944 prowadził orkiestrę miasta Helsinek. W 1957 roku Uniwersytet Helsiński nadał mu tytuł doctora honoris causa.
Zmarł 23 czerwca 1958 roku w Sztokholmie.
Muzyka Järnefelt komponował w stylu romantycznym. Pierwsze poważne dzieło – poemat symfoniczny Korsholma napisał w wieku lat 25. Tworzył przede wszystkim pieśni solowe (50) i kompozycje chóralne, w tym kantaty. Wiele utworów napisał dla żony Maikki, do jego najbardziej popularnych pieśni zalicza się: Sunnuntaina, Aallon kehtolaulu, Titania, Skymning i Solksen. Jego dwa dzieła napisane dla chóru męskiego – Pois meni merehen päivä i Wanderers Nachtlied weszły do kanonu fińskich utworów chóralnych. Rozgłos międzynarodowy przyniosły mu dwa utwory na orkiestrę – Berceuse (1894) i Preludium (1900).