Szczególnym kultem otaczany jest słynący łaskami obraz Matki Boskiej Miłosierdzia, będący siedemnastowieczną kopią obrazu Matki Boskiej Jasnogórskiej, zwany Matką Boską Mstowską. W prawej poprzecznej nawie wisi obraz przedstawiający wręczenie przez biskupa Iwo Odrowąża aktu fundacyjnego klasztoru na tle jego XVII-wiecznej panoramy.
Na placu przykościelnym mieścił się w przeszłości cmentarz, o czym świadczy zachowany pomnik nagrobny z figurą Chrystusa Dobrego Pasterza.
Klasztor Od północy do kościoła przylegał trójskrzydłowy klasztor. Powstał on w okresie lokacji kościoła w XIII wieku, ale w XV i XVII wieku oraz w latach 1763–1791 był znacznie przebudowany. Jednopiętrowe południowo-wschodnie skrzydło jest późnogotyckie z nielicznymi fragmentami romańskimi, z drugiej połowy XV wieku. W skrzydle znajduje się dawny kapitularz ze zrekonstruowanym sklepieniem krzyżowym wspartym na grubym, czworobocznym filarze.
Skrzydło środkowe jest nowsze, zbudowane jednak także w stylu gotyckim. W środkowym skrzydle znajduje się późnogotycki portal z początków XVI wieku, o nadprożu zdobionym laskowaniem i motywem liści. Oryginalnie portal ten prowadził do kapitularza, ale został przeniesiony.