Kariera historyczna Jeszcze w latach 30. XIX wieku, podczas swojej kariery nauczycielskiej, Kaiser prowadził również liczne badania historyczne i pisał wiele prac naukowych. W późniejszych latach przynależał również do lokalnego towarzystwa historycznego, któremu nawet przewodniczył w latach 1849-1851 i 1853-1854. Był bardzo szanowanym historykiem, specjalizującym się w historii Gryzonii i Liechtensteinu, przez co przylgnął do niego przydomek Historiographen der rhätischen Lande (dosł. historiograf ziem retyckich).
Geschichte des Fürstenthums Liechtenstein Największym dziełem Petera Kaisera było opracowanie historii Księstwa wydane w Chur w 1847 roku pt. Geschichte des Fürstenthums Liechtenstein nebst Schilderungen aus Chur-Rätien's Vorzeit. W książce Kaiser skupił się przede wszystkim na ludzie i na jego relacjach z monarchami. Był to okres sporów i zawirowań politycznych związanych z wiosną ludów i rewolucją marcową 1848 roku, która odbijała się również na sytuacji w Liechtensteinie, dlatego też książka została zakazana przez władze Księstwa w grudniu 1847 roku, jednak niespełna miesiąc później (15 stycznia 1848 roku) książę Alojzy II odwołał decyzję i opracowanie trafiło do sprzedaży w Liechtensteinie.