Podstawę prawną tego porozumienia miał stanowić rozdział VIII Karty Narodów Zjednoczonych o układach i organizacjach regionalnych.
Idea powstania konferencji zrodziła się w latach 60. XX wieku, kiedy stało się jasne, że dla dobra Europy należy nawiązać współpracę pomiędzy państwami należącymi do NATO i Układu Warszawskiego. Propozycja zwołania międzynarodowej konferencji bezpieczeństwa i współpracy została zgłoszona przez polskiego ministra spraw zagranicznych Adama Rapackiego 14 grudnia 1964 na XIX sesji Zgromadzenia Ogólnego ONZ. Pierwsze spotkanie przygotowawcze odbyło się w 1972 r., od następnego roku toczyły się konferencje dwu- i wielostronne.
W momencie zwołania Konferencji Bezpieczeństwa i Współpracy w Europie kwestia mniejszości narodowych została na kontynencie europejskim zauważona na nowo. Znalazło to odzwierciedlenie w Akcie Końcowym KBWE odbywającej się w Helsinkach 1 sierpnia 1975.
Akt końcowy KBWE