Wat is Generative pre-trained transformer (GPT)?
GPT (generative pre-trained transformer) verwijst naar een reeks grote taalmodellen die door OpenAI zijn ontwikkeld en gebaseerd zijn op de transformerarchitectuur. De modellen worden eerst voorgetraind op enorme hoeveelheden tekst om het volgende token te voorspellen en daarna verder getraind voor dialoog en het opvolgen van instructies. Het eerste GPT-model verscheen in 2018; latere generaties vormen de basis van ChatGPT. In de dagelijkse omgangstaal wordt ‘GPT’ vaak gebruikt voor taalmodellen in het algemeen.