Nawiązanie stosunków dyplomatycznych między Polską a Republiką Federalną Niemiec nastąpiło 14 września 1972 r. Było to możliwe dzięki zawarciu 7 grudnia 1970 r. Układu między PRL a Republiką Federalną Niemiec o podstawach normalizacji ich wzajemnych stosunków. Do jego podpisania doszło w czasie wizyty Willy’ego Brandta, który jako pierwszy kanclerz RFN oficjalnie odwiedził Polskę. W jej trakcie symboliczny gest kanclerza, uklęknięcie przy Pomniku Bohaterów Getta, stał się wydarzeniem o wymiarze historycznym. Niemiecki Bundestag ratyfikował układ PRL-RFN 17 maja 1972 roku, ustawę o ratyfikacji podpisał prezydent RFN Gustav Heinemann 23 maja, 26 maja tego samego roku układ ratyfikowała Rada Państwa PRL, zaś wymiana dokumentów ratyfikacyjnych nastąpiła 3 czerwca 1972 roku w Bonn.
Pierwszą polską placówką dyplomatyczną w RFN było utworzone już w 1949 roku przedstawicielstwo handlowe z siedzibą we Frankfurcie nad Menem. W 1963 roku, po wzajemnym uzgodnieniu przez PRL i RFN utworzenia misji handlowych, zostało ono przeniesione do Kolonii, a następnie przekształcono w 1974 roku w ambasadę.