Od chwili przybycia do Auschwitz Mengele – wraz z innymi oficerami i lekarzami SS, wśród których znajdowali się dr Carl Clauberg i dr Johann Paul Kremer – uczestniczył w selekcji Żydów i Romów przybywających do obozu z całej Europy. Gestem dłoni lub ruchem trzcinki wskazywał „niezdatnych do pracy”, a zatem przeznaczonych do natychmiastowej likwidacji w komorach gazowych. Posyłał tam wszystkie dzieci, starców, chorych, ułomnych lub osłabionych Żydów i Romów oraz wszystkie ciężarne kobiety. Od maja 1943 do listopada 1944 Mengele wziął udział w co najmniej 74 selekcjach na rampie.
Odegrał aktywną rolę podczas 31 selekcji w obozowym szpitalu, wysyłając na śmierć przez rozstrzelanie, wstrzyknięcie trującej substancji lub zagazowanie tych chorych, których zdrowie podkopały głód, przymusowa praca, niewyleczone choroby lub sadystyczne zachowanie strażników. Mengele był podczas każdej akcji selekcyjnej nienagannie ubrany w biały lekarski fartuch i białe rękawiczki, stąd rychło zyskał wśród więźniów Auschwitz miano Anioła Śmierci.