David Gilmour i Roger „Syd” Barrett znali się od czasów szkolnych w Cambridge. W szkole średniej Gilmour, wtedy będący już sprawnym muzykiem, udzielał Barrettowi lekcji gry na gitarze. Okazję do wspólnych występów mieli w czasie studiów w Cambridgeshire College of Arts and Technology (od 1963). Lato 1964 roku spędzili grając, jako muzycy uliczni, w miejscowościach południowej Francji. Ich repertuar składał się głównie z przebojów The Beatles.
Pink Floyd mały|left|Gilmour w latach 70. Na przełomie 1967 i 1968 roku David Gilmour otrzymał propozycję dołączenia do Pink Floyd (jako wokalista i gitarzysta). Była to reakcja zespołu na coraz większe problemy z uzależnieniem od narkotyków dotychczasowego lidera – Syda Barretta. Początkowym zadaniem Gilmoura miało być głównie zastępowanie Barretta podczas koncertów. Wkrótce jednak Barrett opuścił zespół na dobre, a Gilmour zajął jego miejsce. Charakterystyczny styl gry Gilmoura był jednym ze źródeł sukcesu Pink Floyd w latach 70., dając mu na pewien czas dominującą pozycję w zespole.