Wkrótce Niemcy przystąpili do eksterminacji mieszkańców getta. Jicchak Arad szacował, że ponad 1200 Żydów, w większości mężczyzn, zostało zamordowanych podczas kilku „akcji” przeprowadzonych między końcem lipca a połową sierpnia 1941 roku. W tym okresie zbiorowe egzekucje były przeprowadzane w lesie Žalioji, położonym ok. 13 kilometrów na północny wschód od Poniewieża. 4 sierpnia rozstrzelano tam więźniów przywiezionych z poniewieskiego więzienia. Zginęło wtedy 403 Żydów, w tym 41 kobiet, a także 19 komunistów narodowości litewskiej i rosyjskiej. 11 sierpnia rozstrzelano kolejnych 500 osób, w tym 450 Żydów i 48 Żydówek. W egzekucjach uczestniczyli policjanci z 10. batalionu – jako konwojenci, a niekiedy również jako kaci.
Ostateczna zagłada poniewieskiego getta nastąpiła 23 sierpnia 1941 roku. Zgodnie z raportem sporządzonym przez SS-Standartenführera Karla Jägera zamordowano wtedy 7523 osoby, w tym 4602 kobiety i 1609 dzieci. Masową egzekucję przeprowadzono w lesie nieopodal wsi Pajuostis, położonym w odległości ok. ośmiu kilometrów na wschód od Poniewieża. Zostały tam wykopane dwa masowe groby o długości 40 metrów. Ofiary prowadzono małymi grupkami nad ich krawędzie i rozstrzeliwano. Do zasypywania kolejnych warstw zwłok zmuszono sowieckich jeńców wojennych. Egzekucja trwała cały dzień.