Čo je Generatívny predtrénovaný transformér (GPT)?
GPT (generative pre-trained transformer) označuje sériu veľkých jazykových modelov vyvinutých spoločnosťou OpenAI, ktoré vychádzajú z architektúry transformer. Modely sa najprv predtrénujú na obrovskom množstve textu, aby predpovedali nasledujúci token, a potom sa ďalej trénujú na dialóg a plnenie pokynov. Prvý model GPT vyšiel v roku 2018; neskoršie generácie tvoria základ ChatGPT. V bežnej reči sa „GPT“ často používa pre jazykové modely vo všeobecnosti.