Pracę w Archiwum Głównym Akt Dawnych Adam Wolff rozpoczął w 1924 r. W ciągu blisko 30 lat pracy w tym najstarszym polskim archiwum Wolff przeszedł wszystkie stopnie kariery archiwalnej, od praktykanta do kustosza i kierownika oddziału akt staropolskich.
W latach 20. Wolff udzielał się w towarzystwach historycznych. Był członkiem Polskiej Akademii Umiejętności, Polskiego Towarzystwa Historycznego, Towarzystwa Miłośników Historii, Komisji Historycznych Warszawskiego Towarzystwa Naukowego.
Praca archiwalna Wolffa była ściśle związana z jego badaniami naukowymi, skoncentrowanymi początkowo głównie na sporządzeniu spisu urzędników książęcego Mazowsza i przygotowaniu monografii na temat Metryki Mazowieckiej. Już jako uznany badacz Mazowsza, znakomity paleograf i znawca archiwistyki staropolskiej na podstawie wydanych wcześniej prac naukowych uzyskał stopień doktora w 1938 r., a dwa lata wcześniej formalne magisterium. Ostatnie lata przed wybuchem II wojny św. Wolff poświęcił na prace związane z przygotowaniem Kodeksu dyplomatycznego Mazowsza. W okresie II wojny Wolff nadal pracował w AGAD. Po powstaniu warszawskim trafił do Krakowa, gdzie rozpoczął pracę w Archiwum Państwowym i prowadził wykłady i zajęcia z paleografii łacińskiej i archiwistyki na Uniwersytecie Jagiellońskim.