Po uzyskaniu stopnia oficerskiego został wysłany do Paryża na Wystawę Światową 1937, po powrocie do Berlina rozpoczął pracę w Sicherheitsdienst (wywiad SS) zajmując się badaniem niemieckiej pracy emigracyjnej we Francji, Belgii i Holandii. Razem z SS-Stubaf Walterem Schellenbergiem brał udział w zatrzymaniu agentów brytyjskich w Venlo za co Adolf Hitler osobiście odznaczył ich Krzyżem Żelaznym I i II klasy. 14 czerwca objął dowództwo nad dwudziestoosobowym Einsatzkommando Frankreich. Po rozpoczęciu okupacji północnej i zachodniej części Francji Knochen został mianowanym Komendantem Sipo-SD na Île-de-France organizując swoją siedzibę przy 72 avenue Foch. W 1941 zorganizował szereg akcji antyżydowskich min. palenie synagog i deportacje do obozów zagłady i obozów koncentracyjnych. Stosował także terror wobec pozostałej ludności cywilnej i prowadził działania przeciw Ruchowi Oporu, nakazując egzekucje tysięcy Francuzów, oraz jest także odpowiedzialny za zamordowanie zestrzelonych lotników brytyjskich.