Što je Generativni unaprijed trenirani transformer (GPT)?
GPT (generative pre-trained transformer) označava seriju velikih jezičnih modela tvrtke OpenAI koji se temelje na arhitekturi transformera. Modeli se najprije unaprijed treniraju na golemim količinama teksta kako bi predviđali sljedeći token, a zatim se dodatno treniraju za dijalog i izvršavanje uputa. Prvi GPT model pojavio se 2018.; kasnije generacije temelj su ChatGPT-a. U svakodnevnom govoru „GPT” se često koristi za jezične modele općenito.