Pierwszym krokiem w kierunku realizacji tego przedsięwzięcia był zakup 10-letniego niemieckiego trałowca w 1927 r. Został przeznaczony do celów dozorowania granicy morskiej i nazwany „Prezidentas Smetona”. Dowódcą jednostki był komandor (lit. jūrų kapitonas) Antanas Kaškelis. Oprócz tego jedynego okrętu wojennego kilka małych łodzi motorowych wykonywało zadania patrolowe w okolicach portu w Kłajpedzie. Oficerowie marynarki wojennej kształcili się za granicą.
1 września 1935 roku naczelny wódz litewskich sił zbrojnych, generał Stasys Raštikis, oficjalnie powołał Litewską Marynarkę Wojenną jako część litewskich sił zbrojnych. Jej okrętem flagowym został „Prezidentas Smetona”, przeznaczony głównie do roli okrętu szkolnego. Jej istnienie zostało raptownie przerwane 22 marca 1939 roku, kiedy to na skutek ultimatum ministra spraw zagranicznych III Rzeszy Joachima von Ribbentropa Litwa musiała oddać Memelland Niemcom, a nieliczna Marynarka Wojenna schroniła się w łotewskiej Lipawie.