Nazwa zespołu została przyjęta przez Cave’a w dokładnie taki sam sposób, jak zrobił to kilka lat wcześniej. Po wydaniu przez The Boys Next Door (pierwszy zespół Cave’a założony w 1976 roku) płyty zatytułowanej The Birthday Party muzycy nagle postanowili zmienić nazwę zespołu właśnie na wcześniej wymienioną The Birthday Party. W omawianym przypadku ostatnią oficjalną płytą zespołu The Birthday Party była płyta The Bad Seed i stąd została zaczerpnięta nazwa obecnego zespołu artysty.
Po rozstaniu się z Anitą Lane na początku lat osiemdziesiątych Cave przeprowadził się do Berlina. W tym czasie powstawały kolejne albumy The Bad Seeds: The Firstborn Is Dead, Kicking Against the Pricks, Your Funeral, My Trial oraz Tender Prey. Na płycie Kicking Against the Pricks, w utworze „Muddy Water”, partię skrzypiec wykonała matka Cave'a – Dawn. Kicking Against the Pricks był pierwszym albumem, który został nagrany ze szwajcarskim perkusistą Thomasem Wydlerem grającym wcześniej w zespole Die Haut. Thomas Wydler jest drugim członkiem zespołu o najdłuższym stażu w aktualnym składzie.