W 1976 podjął współpracę ze Steviem Wonderem nad kilkoma piosenkami, które zostały wydane na płycie Songs in the Key of Life. Nagrany w 1980 dla Columbia Records jego debiutancki album Absence Without Love (1982) nie wzbudził większego zainteresowania, ale drugi On & On, odniósł sukces na arenie międzynarodowej. Nagrał dla tej wytwórni jeszcze dwie płyty, a wydany w 1986 Carl Anderson przyniósł mu jedyny popowy hit, duet „Friends and Lovers” z Glorią Loring, który zajął 2. miejsce na listach przebojów magazynu „Billboard”. W 1997 powrócił na Broadway w roli Duke’a w musicalu Play On!.
Jesienią 2002 miał swój udział w północnoamerykańskiej trasie Jesus Christ Superstar, opartej na scenicznej wersji Gail Edwards, w reżyserii Kevina Moriaty. Odtwórcą tytułowej roli był wokalista Sebastian Bach. Chociaż trasa trwała do roku 2005, z powodu przedwczesnej śmierci Carla, jego rolę do końca produkcji przejął dotychczasowy dubler, Lawrence Clayton.
Życie prywatne Był dwukrotnie żonaty. Ze związku z Kathleen McGhee-Anderson miał syna Khalila. W 1992 zawarł związek małżeński z psycholog Verónica Porche, byłą żoną boksera Muhammada Alego.