Kościół przeszedł znaczącą przebudowę w XIX wieku. W latach 1820–1840 od północy i południa dobudowano transept, a średniowieczne prezbiterium, wschodnią ścianę nawy, a także zakrystię i zbrojownię zburzono. W 1843 roku obniżono ściany i dach nawy, a w 1884 roku zburzono średniowieczne sklepienia. Renowację ukończono w 1899 roku, wraz z dobudowaniem nowej zakrystii. Kolejne prace restauracyjne miały miejsce w latach 1961 i 1991.
Kościół w Jomali został zbudowany z lokalnego czerwonego granitu rapakiwi. W obecnej formie ma nietypowy plan litery T. Składa się z krótkiej i szerokiej nawy oraz szerokiego transeptu od wschodu. Wymiary nawy to 9,3 na 10,9 metra (szerokość przekracza długość). Do nawy od zachodu przylega 52-metrowa wieża, której parter połączony jest z wnętrzem kościoła ostrołukowym przejściem. Na wschodnim krańcu nawy znajduje się zakrystia z osobnym wejściem. Wieża i nawa mają średniowieczną konstrukcję i wyraźnie wyróżniają się spośród nowszych elementów, dodanych w XIX wieku. Kościół w Jomali jest jedynym kościołem w Finlandii, który można jednoznacznie zaklasyfikować jako romański.