Debiutancki album zespołu pn. Gotta Move ukazał się w marcu 1980 roku i był promowany trzema singlami: „Success”, „Bust the TV” i „Coffee with the Queen”. Album okazał się komercyjną porażką, jakkolwiek The Pumps pozostał uznaną grupą koncertową, stanowiąc przez następne półtora roku support m.in. przed Styx, Streetheart, Prism, Triumph i AC/DC. Jednakże występujące w tym czasie nieporozumienia zespołu z Polydor skutkowały wstrzymaniem wydania drugiego albumu, rozwiązaniem kontraktu wytwórni z zespołem i odejściem Petrovicha.
W efekcie tego The Pumps zwrócił uwagę gitarzysty Steve’a McGoverna. McGovern występował w zespole Orphan, który stanowili także Ron Boisvenue (perkusja), „Dizzy Fingers” Richards (bas) i „Spaceman” Paul (instrumenty klawiszowe). Muzycy The Pumps i Orphan znali się ze wspólnych koncertów. W efekcie McGovern nawiązał współpracę z Burke’iem-Gaffneyem, która zaowocowała dokooptowaniem do składu Diamonda i Boisvenue’a i uformowaniem nowego zespołu Orphan. Z pomocą menedżera Erica Greena zespół na początku 1982 roku podpisał kontrakt z Portrait Records, który zlecił mu dokonanie nagrań w studio The Power Station w Nowym Jorku. Album pt. Lonely at Night, wyprodukowany przy pomocy Tony’ego Bongioviego, został wydany wiosną 1983 roku i był promowany przez single „Lonely at Night” i „Miracle”.