Glossar

Generativer vortrainierter Transformer (GPT)

Was ist Generativer vortrainierter Transformer (GPT)?

GPT (Generative Pre-trained Transformer) bezeichnet eine von OpenAI entwickelte Reihe großer Sprachmodelle auf Basis der Transformer-Architektur. Die Modelle werden zunächst mit riesigen Textmengen darauf vortrainiert, das jeweils nächste Token vorherzusagen, und anschließend für Dialoge und Anweisungen nachtrainiert. Das erste GPT-Modell erschien 2018; spätere Generationen bilden die Grundlage von ChatGPT. Umgangssprachlich wird „GPT“ oft für Sprachmodelle allgemein verwendet.

Themen

  • Sprachmodell
  • Transformer
  • OpenAI

KI.ordo ausprobieren

Agenten, Abläufe und Vorlagen in einem Arbeitsbereich – 24 Stunden kostenlos als Demo.

Demo starten
← Alle Begriffe

Verwandte Begriffe

Transformer

Der Transformer ist eine Architektur neuronaler Netze, die 2017 in dem Forschungsartikel „Attention Is All You Need“ vorgestellt wurde. Ihr Kern ist der Attention-Mechanismus: Jedes Wort wird im Zusammenhang mit allen anderen Wörtern eines Textes gewichtet, und die Berechnung lässt sich gut parallelisieren. Transformer bilden die Grundlage heutiger Sprachmodelle wie GPT, Claude oder BERT und werden auch für Bilder und Audio eingesetzt.

  • Architektur
  • Deep Learning
  • +1

Großes Sprachmodell (LLM)

Ein großes Sprachmodell (Large Language Model, LLM) ist ein neuronales Netz, das mit sehr großen Textmengen trainiert wurde und dadurch Sprache verstehen und erzeugen kann. Es arbeitet, indem es Schritt für Schritt das wahrscheinlichste nächste Token berechnet. LLMs schreiben, fassen zusammen, übersetzen, beantworten Fragen und erzeugen Code; bekannte Beispiele sind Claude, GPT, Gemini und Llama. Ohne Zugriff auf aktuelle Quellen kennen sie nur den Stand ihrer Trainingsdaten.

  • Sprachmodelle
  • Generative KI
  • +1

OpenAI

OpenAI ist ein KI-Unternehmen aus San Francisco, 2015 als gemeinnützige Organisation gegründet. Seit der Umstrukturierung im Oktober 2025 besteht es aus der gemeinnützigen OpenAI Foundation, die die gewinnorientierte OpenAI Group PBC kontrolliert (Stand: Oktober 2026). Bekannt ist OpenAI vor allem für ChatGPT und die GPT-Sprachmodelle, außerdem für den Bildgenerator DALL·E und das Spracherkennungsmodell Whisper. Die Modelle werden über Apps und eine Programmierschnittstelle angeboten.

  • Anbieter
  • Sprachmodelle
  • +1

ChatGPT

ChatGPT ist ein KI-Assistent des US-Unternehmens OpenAI, der im November 2022 erschien und generative KI einem breiten Publikum bekannt machte. Er basiert auf großen Sprachmodellen der GPT-Reihe und beantwortet Fragen, schreibt und überarbeitet Texte, fasst Dokumente zusammen oder hilft beim Programmieren. ChatGPT ist im Browser und als App verfügbar, in kostenlosen und kostenpflichtigen Varianten sowie in Versionen für Teams und Unternehmen.

  • OpenAI
  • KI-Assistent
  • +1