Kapranos nauczył swojego przyjaciela Hardy’ego gry na basie, po tym jak otrzymał gitarę basową od z Belle and Sebastian. Kapranos i Hardy zaczęli wspólnie grać pod koniec 2001 roku, kiedy to poznali McCarthy’ego, który został perkusistą pomimo braku wcześniejszego doświadczenia gry na tym instrumencie. McCarthy do Glasgow przyjechał w tym samym roku, po ukończeniu studiów w Konserwatorium Monachijskim. Trójka muzyków przez pewien czas wykonywała próby w domu McCarthy’ego. Dołączył do nich Thomson, były perkusista zespołu The Yummy Fur, który w nowym zespole wolał grać na gitarze. Ostatecznie McCarthy i Thomson zamienili się instrumentami, a zespół przeniósł się do opuszczonego magazynu, który nazwali Chateau. Grupa odbywała w nim próby oraz organizowała rave’owe imprezy, łączące muzykę i sztukę. Potrzebowali nowej sali prób, a gdy policja odkryła ich nielegalne imprezy artystyczne, znaleźli ją w innym budynku.
Gdy członkowie zespołu się połączyli, zdecydowali, że nazwą zespołu będzie Franz Ferdinand. Nazwa pierwotnie została zainspirowana koniem wyścigowym o imieniu Archduke Ferdinand.