Wielokrotnie toczył spory z arcybiskupem Bolonii kardynałem Carlo Oppizzonim, któremu nie podobała się zbytnia samodzielność Felettiego jako inkwizytora.

W 1858 wydał nakaz odebrania żydowskim rodzicom ich sześcioletniego syna Edgardo Mortary, po tym, jak była służąca zeznała, że potajemnie ochrzciła chłopca podczas ciężkiej choroby. Prawo kościelne w takim przypadku nakazywało, że ochrzczone dziecko musi się wychowywać wśród chrześcijan. Edgardo Mortara został następnie odesłany do Rzymu do tzw. domu katechumenów. Sprawa ta odbiła się szerokim echem w międzynarodowej prasie i negatywnie wpłynęła na wizerunek Stolicy Apostolskiej.

Jesienią 1859 Bolonia została zajęta przez jednoczące Włochy wojska sardyńskie. Nowe władze na początku stycznia 1860 aresztowały Felettiego pod zarzutem uprowadzenia Edgardo Mortary. Feletti odmówił uznania legalności sądu i w czasie procesu odmówił składania jakichkolwiek zeznań dotyczących jego działalności jako inkwizytora, powołując się na złożoną przy obejmowaniu urzędu przysięgę milczenia.