OKH składało się z dwunastu departamentów, z których każdy odpowiadał za konkretny aspekt armii. Był to bardzo podobny układ do spotykanego w armiach innych państw, z wyjątkiem Biura Administracji Armii (Heeresverwaltungsamt), które odpowiadało za zaopatrzenie w racje żywnościowe, zakwaterowanie, żołd i umundurowanie. Biuro to było obsadzone przez specjalistów technicznych i administracyjnych, których ścieżka kariery była nieco inna od normalnych kanałów kadrowych armii którzy podlegali własnemu korpusowi. Ludzie ci, znani jako Wehrmachtbeamten, byli przydzielani do jednostek polowych aż do szczebla kompanii. Nosili mundury i byli uznawani za żołnierzy – większość beamten na linii frontu posiadała stopień oficerski – i przechodzili podstawowe szkolenie piechoty. Po maju 1944 utracili część swojej niezależności; awanse i przeniesienia przeszły wówczas pod odpowiedzialność Departamentu Kadr Armii.