W ramach 10 rocznicy istnienia zespołu, w 2002 roku ukazuje się album kompilacyjny pt. We’re Going to Hell for This – Over a Decade of Perversions na którym oprócz kilku nowych piosenek znalazły się covery takich zespołów jak: Darkthrone, Venom i Discharge, nowa wersja utworu Bloodlust and Perversion oraz zapis audio koncertu jaki grupa dała w szwajcarskiej hali koncertowej Z7 w październiku 2001 roku. Była to także ostatnia płyta wydana nakładem wytwórni Avangarde Music.
Latem 2002 roku Carpathian Forest wchodzi do Sound Suite Studio na południu Francji, aby rozpocząć nagrywanie czwartego albumu zatytułowanego Defending The Throne Of Evil. W tym samym roku grupa nawiązuje współpracę z francuską wytwórnią Season Of Mist, której nakładem płyta ukazuje się ostatecznie w 2003 roku. Pod względem muzycznym nowy album nabrał bardziej melodyjnego i symfonicznego brzemienia, które równoważyło mocne, Black-Metalowe tony. Podobnie jak w przypadku poprzednich wydawnictw muzycy użyli saksofonu, jednak nowym elementem było zastosowanie keyboardu, który do warstwy dźwięku wprowadził odmienny klimat. Jak wspomina Nattefrost: „W tym przypadku użycie keyboardu było ważne, wzbogaciło wrażenia (...) aby wykreować dodatkową, mroczną atmosferę pod szorstkim brzmieniem gitar. Wynajęliśmy również chór, aby stworzyć wyjątkowy nastrój.