Do jego następnej walki doszło 10 września 2023 na gali UFC 293 w Sydney. Jego rywalem był Koreańczyk . Ulberg odniósł piąte zwycięstwo z rzędu, pokonując rywala przez poddanie w trzeciej rundzie.
Na wydarzeniu UFC 297, które odbyło się 20 stycznia 2023 w Toronto, miał zawalczyć z Dominickiem Reyesem. Pod koniec grudnia 2023 roku ogłoszono, że pojedynek został odwołany z powodu kontuzji Ulberga. Pojedynek obu zawodników został przełożony na wydarzenie UFC on ESPN 54 w dniu 30 marca 2024. Dwa miesiące przed planowanym terminem walki ogłoszono, że Reyes wycofał się z niej i został zastąpiony przez Alonzo Menifielda. 20 lutego 2024 ogłoszono, że walka Ulberga z Menifieldem został przełożona na UFC Fight Night 241 w terminie 11 maja 2024. Popularny „Black Jag” już w 12 sekundzie znokautował rywala.
23 listopada 2024 w chińskim Makau podczas gali UFC Fight Night: Yan vs. Figueiredo zmierzył się z doświadczonym Szwajcarem Volkanem Oezdemirem. Zwyciężył przez jednogłośną decyzję sędziów.
22 marca następnego roku na gali UFC Fight Night: Edwards vs. Brady w Londynie stoczył walkę z byłym mistrzem wagi półciężkiej, Janem Błachowiczem. Ponownie zwyciężył jednogłośną decyzją sędziów.