Elegie duinejskie Rainera Marii Rilkego, malarstwo Paula Klee, Anioł historii Waltera Benjamina i piosenka zespołu the Cure. Inspiracją była też dla niego ostatnia scena jego filmu Paryż, Teksas, w której Nastassia bierze małego Huntera na ręce. Według reżysera ta scena miała w sobie coś wyzwalającego i sprawiła, że w kolejnym filmie chciał mieć silną postać kobiecą.
Pewnego dnia Wenders napisał w swoim notatniku "Anioły" i "bezrobotne" i od tych słów zaczął opracowywać notatki do filmu. Początkowo wydawało mu się, że materiału jest za mało – mimo ciągłego przyrostu notatek, nadal nie miał konkretnego pomysłu na wątek czy ideę, która uporządkowałaby materiał. Anioły dawały zbyt wiele możliwości wyobraźni, aby reżyser mógł wybrać jakiś konkretny pomysł.
Tytuł Niebo nad Berlinem Wenders wymyślił już w 1986 roku. Miał on wskazywać na to, że niebo jest być może jedynym, co łączy podzieloną stolicę Niemiec.