Mis on Generatiivne eeltreenitud transformer (GPT)?
GPT (generative pre-trained transformer) tähistab OpenAI välja töötatud suurte keelemudelite seeriat, mis põhineb transformeri arhitektuuril. Mudeleid eeltreenitakse esmalt tohutute tekstihulkadega, et ennustada järgmist tokenit, ning seejärel treenitakse edasi dialoogiks ja juhiste järgimiseks. Esimene GPT-mudel ilmus 2018. aastal; hilisemad põlvkonnad on ChatGPT aluseks. Igapäevakõnes kasutatakse „GPT“ sageli keelemudelite kohta üldiselt.