Incydent z salwą armatnią W 1795 roku Zeltner został wysłany do Ulm jako przedstawiciel kantonalny. Dwa lata później, 23 listopada 1797 roku, po przybyciu do Solury generała Napoleona Bonapartego, Zeltner wydał rozkaz oddania salwy artyleryjskiej na cześć francuskiego dowódcy. Było to naruszenie miejscowego zakazu oddawania strzałów w godzinach nocnych, za co został aresztowany. Incydent doprowadził do znacznych napięć dyplomatycznych między Szwajcarią a Francją.
Kariera w Republice Helweckiej W 1798 roku, po i proklamowaniu Republiki Helweckiej, Zeltner został mianowany członkiem tymczasowego rządu solurskiego oraz Wielkiej Rady Republiki Helweckiej. Nowa republika, będąca państwem satelickim Francji, zastąpiła dawną konfederację kantonów scentralizowanym państwem unitarnym. 27 kwietnia 1798 roku otrzymał stanowisko pierwszego posła Helvetycznej Republiki w Paryżu, które pełnił do 21 lutego 1800 roku.
Zeltner był pierwszym zawodowym dyplomatą szwajcarskim, inaugurując tym samym erę szwajcarskiej służby zagranicznej. Jego misja w Paryżu stanowiła pierwsze stałe przedstawicielstwo dyplomatyczne Szwajcarii w historii.