Rezerwat obejmuje szereg wzgórz (Sokola Góra, Pustelnica, Puchacz, Donica, Karzełek, Setki) zbudowanych ze skał wapiennych, przykrytych warstwami lessu. W wielu miejscach spod lessu odsłaniają się nagie wapienne skały z bogatymi formami rzeźby krasowej oraz licznymi jaskiniami i schroniskami skalnymi. Największe z nich to: Jaskinia Olsztyńska, Jaskinia Maurycego, Jaskinia Koralowa, Jaskinia Urwista, Jaskinia w Dziedzińcu, Jaskinia Fikuśna, Studnisko (Jaskinia Głęboka), Jaskinia pod Sokolą Górą. Jaskinie są wykorzystywane przez liczne gatunki nietoperzy jako miejsce hibernacji (snu zimowego). W jaskini Studnisko znajduje się również kolonia rozrodcza (letnia) nocków dużych. Jest to jedna z dwóch w Polsce kolonii rozrodczych nietoperzy zlokalizowanych pod ziemią – na północ od Alp i Karpat kolonie takie formują się zwykle na strychach budynków lub (w przypadku innych gatunków) w dziuplach drzew.
W Jaskini Pod Sokolą Górą znalazły swoją ostoję dwa podgatunki chrząszczy (Choleva aquilonia gracilenta i Catops tristis infernus), będące reliktami epoki lodowej. Korzystają one z utrzymującej się tam przez cały rok temperatury +3 °C.