Upolowanego ptaka zwykle przenoszą w ustronne miejsca, tzw. „skubalnie”, którymi mogą być stare pniaki czy poziome gałęzie, i tam oskubują go z piór. W okresie lęgowym zlokalizowane są one w pobliżu miejsc lęgowych, co ułatwia ornitologom analizowanie diety krogulców. Przy większej ofierze dowodem posiłku są pozostawione wnętrzności, kości, dzioby lub nogi.
thumb|Samica krogulca oskubująca złapaną sierpówkę Na jego pożywienie składają się głównie drobne ptaki (najwyżej do rozmiarów gołębia lub drozda włącznie), szczególnie zimą często ofiarą padają wróble domowe (przez co zyskał przydomek krogulec – wróblarz), które gromadzą się w pobliżu domostw ludzkich, ale poluje także na mazurki, sikorki, trznadle, skowronki, zięby, śpiewaki, rudziki, kosy, szpaki, a z innych gromad: myszy, żaby, gady i większe owady. Te ostatnie są tylko uzupełnieniem diety. Aby zaspokoić zapotrzebowanie energetyczne musi dziennie zjeść dwa zwierzęta porównywalne masą do wróbla. Tylko sporadycznie w żołądkach i gniazdach tych drapieżników znajdowano większe ptaki łowne i ssaki. Prawdopodobnie były to zwierzęta ranne, np. poszkodowane w wyniku wypadku drogowego lub w czasie prac polowych, co sprawiło, że były łatwe do pochwycenia.