Uzyskał tam tytuł spathariosa. Widząc talent wojskowy Leona cesarz Anastazjusz II mianował go strategiem temu Anatolikon, czyli dowódcą jednej z najbogatszych prowincji cesarstwa. Leon został następnie dowódcą wojsk walczących na wschodzie przeciw Arabom. Po upadku Anastazjusza wystąpił przeciwko cesarzowi Teodozjuszowi. 18 kwietnia 716 roku został przez swoich żołnierzy proklamowany cesarzem. Zyskał poparcie swojej prowincji oraz stratega temu Armeniakon, Artabasdesa. Za współdziałanie obiecał mu swoją córkę Annę za żonę i wysokie godności. Po pokonaniu Teodozjusza, 25 marca 717 roku Leon został koronowany na cesarza w Konstantynopolu. Wstąpienie Leona na tron zakończyło okres walk wewnętrznych w Bizancjum.
Z pomocą bułgarskich wojsk chana Terweła odparł Arabów oblegających Konstantynopol na przełomie 717 i 718 r. Wyprowadził cesarstwo z długotrwałego kryzysu umacniając władzę cesarską i wprowadzając szereg reform wojskowych i politycznych. W 726 r. wydał Eklogę, będącą kolejną po dokonanej w VI w. przez Justyniana Wielkiego kodyfikacją prawa bizantyjskiego. Najogólniej rzecz biorąc była to modyfikacja dotychczasowych praw w duchu chrześcijańskim. Ekloga np. ograniczała władzę ojca rodziny (patria potestas) zwiększając jednocześnie uprawnienia żony i dzieciG. Ostrogorski, Dzieje Bizancjum, Warszawa 2008, s. 182. W 726 r.