Opowiadano, jak w ciągu jednego dnia śpiewał dwukrotnie Jenika w Sprzedanej narzeczonej po południu w Dreźnie, a wieczorem w Lipsku; jak w pociągu z Drezna do Budapesztu nauczył się roli ze Zmarłych oczu d'Alberta i nazajutrz ją zaśpiewał; jak w Pradze poproszono go z widowni, by zaśpiewał rolę Rudolfa w Cyganerii, bo jej wykonawca nagle zasłabł.
W 1919 roku przeniósł się do Opery Berlińskiej, śpiewał też czasem na festiwalach salzburskich. Jednocześnie zainteresował się operetką. W 1920 roku korzystając z przerwy urlopowej w Operze Berlińskiej zaśpiewał rolę Josziego w Cygańskiej miłości. Usłyszał go wówczas Lehár i zachwycony jego głosem zaprosił na cykl występów we Frasquicie w lipcu 1922 roku. Od 1925 roku kontrakt z Tauberem podpisała również Opera Wiedeńska. Tauber tymczasem na dobre zainteresował się operetką: wystąpił w premierach Ostatniego walca i Pereł Kleopatry Oscara Strausa, zaczął nagrywać przeboje operetkowe na płyty i występować z nimi w radiu. W 1926 roku zaangażował się w walkę o wystawienie w Berlinie operetki Lehára Paganini i odniósł ogromny sukces w roli tytułowej. Odtąd Lehár pisał swoje kolejne utwory z myślą o Tauberze, albo nawet we współpracy z nim: Carewicza (1927), Fryderykę (1928), Krainę uśmiechu (1929).