alt=Diagram przedstawiający architekturę modelu GPT|mały|Architektura GPT Wstępnie przeszkolony transformer generatywny () (ang. ) – rodzaj dużego modelu językowego, czyli modelu uczenia maszynowego, który został wytrenowany na dużych zbiorach danych i potrafi generować tekst na podstawie podanego mu kontekstu. jest jednym z największych i najbardziej zaawansowanych modeli językowych. Pierwszy model został przedstawiony przez amerykańską spółkę OpenAI w 2018 roku. Do 2025 roku OpenAI przedstawiła pięć wersji . Modele są również rozwijane przez inne firmy, takie jak: EleutherAI, Cerebras.
W uproszczeniu można powiedzieć, że jest programem komputerowym, który przetwarza ogromne ilości tekstu, aby nauczyć się reguł języka. Następnie, gdy dostanie fragment tekstu, potrafi wygenerować sensowne i poprawne gramatycznie kontynuacje zdania, a gdy dostanie zapytanie, potrafi wygenerować sensowne odpowiedzi. Model GPT był trenowany na różnorodnych źródłach danych, w tym na artykułach z Wikipedii, artykułach prasowych i różnorodnych tekstach z internetu.