Już w 1953 roku Moskwa wyznaczyła ambasadora. Do kolejnej zmiany w stosunkach dwustronnych doszło w 1991 roku, po rozpadzie ZSRR, gdy powołana została Federacja Rosyjska.
Spośród ambasadorów rosyjskich w Wiedniu, Aleksander Gorczakow i Aleksiej Łobanow-Rostowski objęli tekę ministra spraw zagranicznych Imperium Rosyjskiego. Od 1991 roku siedzibą ambasady rosyjskiej (później i wcześniej także radzieckiej) jest Pałac Nassau. Tuż obok znajduje się prawosławny sobór św. Mikołaja.
Przedstawiciele dyplomatyczni Rosji i ZSRR w Austrii Zdjęcie Imię i nazwisko Objął urząd Złożył urząd Reprezentował Akredytacja 100px Piotr Aleksiejewicz Golicyn 4 lutego 1701 1706 Carstwo Rosyjskie Święte Cesarstwo Rzymskie 100px Heinrich von Huyssen 6 sierpnia 1705 marzec 1708 Carstwo Rosyjskie Święte Cesarstwo Rzymskie 100px Johann Christof Urbich 28 czerwca 1707 13 listopada 1712 Carstwo Rosyjskie Święte Cesarstwo Rzymskie 100px Andriej Artamonowicz Matwiejew 13 listopada 1712 2 kwietnia 1715 Carstwo Rosyjskie Święte Cesarstwo Rzymskie 100px Ludowik Łanczinski 3 kwietnia 1715 8 sierpnia 1716 Carstwo Rosyjskie Święte Cesarstwo Rzymskie 100px Awraam Pawłowicz Wiesiełowski 24 maja 1715 4 lutego 1719 Carstwo Rosyjskie Święte Cesarstwo Rzymskie 100px Piotr Andriejewicz Tołstoj 11 lipca 1717 3 lutego 1718 Carstwo Rosyjskie Święte Cesarstwo Rzymskie