Podstawowymi elementami OpenMP są konstrukcje służące do tworzenia wątków, rozdzielania (współdzielenia) pracy, zarządzania środowiskiem danych, synchronizacji wątków, procedury czasu wykonania (poziomu użytkownika) i zmienne środowiskowe.
Dyrektywa kompilatora C/C++ pragma (ang. pragmatic information), przy użyciu OpenMP jest zapisywana w kodzie następująco: #pragma omp <reszta "pragmy">
Specyficzne dla OpenMP "pragmy":
Tworzenie wątku omp parallel. Jest używana do przydzielenia dodatkowych wątków do równoległego wykonania pracy zawartej w konstrukcji. Oryginalny proces zostanie oznaczony jako główny wątek z ID równym 0.
Przykład: Wyświetl "Hello, world" przy użyciu wielu wątków.
int main(int argc, char* argv[]) { #pragma omp parallel printf("Hello, world!\n"); return 0;