Was ist Generativer vortrainierter Transformer (GPT)?
GPT (Generative Pre-trained Transformer) bezeichnet eine von OpenAI entwickelte Reihe großer Sprachmodelle auf Basis der Transformer-Architektur. Die Modelle werden zunächst mit riesigen Textmengen darauf vortrainiert, das jeweils nächste Token vorherzusagen, und anschließend für Dialoge und Anweisungen nachtrainiert. Das erste GPT-Modell erschien 2018; spätere Generationen bilden die Grundlage von ChatGPT. Umgangssprachlich wird „GPT“ oft für Sprachmodelle allgemein verwendet.