przegrał z Rogerem Federerem. W połowie sierpnia 2008 roku osiągnął najwyższą pozycję rankingową – nr 14.
W styczniu 2010 roku wraz z Dušanem Vemiciem doszedł do półfinału wielkoszlemowego Australian Open. Chorwacko-serbska para pokonała po drodze m.in. debel Łukasz Kubot-Oliver Marach oraz parę Lukáš Dlouhý-Leander Paes. W tego samego roku Karlović doszedł do finału singla w Delray Beach. Spotkanie finałowe przegrał z Ernestsem Gulbisem.
Piąty singlowy tytuł tenisista chorwacki wywalczył po pięciu latach, w lipcu 2013 roku w Bogocie. W finale pokonał Alejandro Fallę.
W lutym 2014 roku Karlović doszedł do finału turnieju w Memphis, w którym uległ Keiemu Nishikoriemu. W maju przegrał w meczu mistrzowskim zawodów w Düsseldorfie wynikiem 2:6, 6:7(4) z Philippem Kohlschreiberem. W lipcu zanotował kolejny finał singlowy – w Newport przegrał 3:6, 7:6(4), 6:7(3) z Lleytonem Hewittem. W tym samym miesiącu Karlović był uczestnikiem finału w Bogocie, w którym uległ Bernardowi Tomiciowi.