Какво е Генеративен предварително обучен трансформър (GPT)?
GPT (generative pre-trained transformer) означава серия от големи езикови модели, разработени от OpenAI и основани на архитектурата „трансформър“. Моделите първо се обучават предварително върху огромни количества текст да предвиждат следващия токен, а след това се обучават допълнително за диалог и за следване на инструкции. Първият модел GPT се появява през 2018 г.; по-късните поколения стоят в основата на ChatGPT. В ежедневната реч „GPT“ често се използва за езикови модели като цяло.