W 1971 roku Al Jarreau przeprowadził się ponownie – tym razem do Kalifornii.
Zimą 1974/1975 w Troubadour w Hollywood dwóch łowców talentów z wytwórni Warner Bros. usłyszało i zobaczyło Ala. Byli zachwyceni jego talentem i charyzmą. Al podpisał kontrakt na 20 lat. Już w 1975 roku wydał swój pierwszy album „We Got By”. Miał wtedy 35 lat, a był to początek jego wielkiej kariery. Album „We Got By” nie odniósł wielkiego sukcesu aż do legendarnego koncertu „Onkel Poe’s” (który odbył się w 36. urodziny Ala), na który zaprosił Ala Sigi Loch. Po koncercie (i późniejszej europejskiej trasie koncertowej) Al zebrał niezwykle przychylne głosy krytyków. Był nazywany m.in. „człowiekiem z orkiestrą w głosie”, „cudownym głosem z USA”. Improwizował naśladując głosy instrumentów i różne melodie. Wtedy też powstała jego wersja utworu „[Take Five]”, którego odtąd domagali się fani na wszystkich koncertach. Al Jarreau nie był tylko muzykiem, ale i artystą estradowym. Mówił do swoich fanów, rozmawiał z nimi, świetnie bawił się ze swoim zespołem. To wszystko stworzyło wspaniałą, żywą atmosferę wokół jego występów.