Kreacja Michaela Corleone, którego rodzina wyemigrowała z Sycylii do Stanów Zjednoczonych (podobnie jak Ala Pacino), w przebojowym filmie mafijnym Ojciec chrzestny (1972) otworzyła mu drogę do kariery, a także była nominowana do Oscara, BAFTA i Złotego Globu. Młody aktor zbojkotował ceremonię wręczenia Oscarów buntując się przeciw decyzji Akademii o nominowaniu go w kategorii dla najlepszego aktora drugoplanowego; grający jego ojca – Don Vito Corleone – Marlon Brando miał mniej czasu ekranowego, mimo to zdobył Oscara za najlepszą rolę pierwszoplanową. Rok potem za postać tytułowego policjanta Franka Serpico w dramacie Sidneya Lumeta Serpico (1973) był nominowany do Oscara za najlepszą rolę pierwszoplanową. Na potrzeby roli zapuścił brodę i włosy, zrywając z eleganckim wizerunkiem znanym z Ojca chrzestnego. Powrócił na kinowy ekran jako centralna postać sequela mafijnej sagi Mario Puzo Ojciec chrzestny II (1974) zdobył nominację do Oscara za rolę pierwszoplanową. Kolejną nominację do Oscara zapewniła mu rola Sonny’ego Wortzika, zuchwałego młodzieńca, który napada na nowojorski bank w opartym na autentycznych wydarzeniach dramacie sensacyjnym Sidneya Lumeta Pieskie popołudnie (1975).