Glossar

Großes Sprachmodell (LLM)

Was ist Großes Sprachmodell (LLM)?

Ein großes Sprachmodell (Large Language Model, LLM) ist ein neuronales Netz, das mit sehr großen Textmengen trainiert wurde und dadurch Sprache verstehen und erzeugen kann. Es arbeitet, indem es Schritt für Schritt das wahrscheinlichste nächste Token berechnet. LLMs schreiben, fassen zusammen, übersetzen, beantworten Fragen und erzeugen Code; bekannte Beispiele sind Claude, GPT, Gemini und Llama. Ohne Zugriff auf aktuelle Quellen kennen sie nur den Stand ihrer Trainingsdaten.

So hilft KI.ordo

KI.ordo nutzt die großen Sprachmodelle der Claude-Familie von Anthropic und verbindet sie mit Anweisungen und Ihrem eigenen Wissen.

Mehr erfahren →: Großes Sprachmodell (LLM)

Themen

  • Sprachmodelle
  • Generative KI
  • Grundbegriff

KI.ordo ausprobieren

Agenten, Abläufe und Vorlagen in einem Arbeitsbereich – 24 Stunden kostenlos als Demo.

Demo starten
← Alle Begriffe

Verwandte Begriffe

Transformer

Der Transformer ist eine Architektur neuronaler Netze, die 2017 in dem Forschungsartikel „Attention Is All You Need“ vorgestellt wurde. Ihr Kern ist der Attention-Mechanismus: Jedes Wort wird im Zusammenhang mit allen anderen Wörtern eines Textes gewichtet, und die Berechnung lässt sich gut parallelisieren. Transformer bilden die Grundlage heutiger Sprachmodelle wie GPT, Claude oder BERT und werden auch für Bilder und Audio eingesetzt.

  • Architektur
  • Deep Learning
  • +1

Token

Ein Token ist die kleinste Texteinheit, die ein Sprachmodell verarbeitet – meist ein Wortteil, ein kurzes Wort oder ein Satzzeichen. Modelle lesen Eingaben und erzeugen Antworten Token für Token; auch die Länge des Kontextfensters wird in Tokens gemessen. Da Anbieter nach Eingabe- und Ausgabe-Tokens abrechnen, bestimmen Tokens direkt Kosten und Limits: Lange Anweisungen und umfangreiches Zusatzwissen erhöhen den Verbrauch.

  • LLM
  • Kosten
  • +1

Foundation-Modell

Ein Foundation-Modell (Basismodell) ist ein großes KI-Modell, das mit sehr umfangreichen, breit gefächerten Daten vortrainiert wurde und sich anschließend für viele unterschiedliche Aufgaben nutzen lässt. Der Begriff wurde 2021 an der Stanford University geprägt. Bekannte Beispiele sind große Sprachmodelle wie Claude oder GPT sowie Bildmodelle. Unternehmen bauen ihre Anwendungen meist auf solchen Modellen auf, statt eigene von Grund auf zu trainieren; die EU-KI-Verordnung spricht von KI-Modellen mit allgemeinem Verwendungszweck.

  • Basismodell
  • Sprachmodelle
  • +1

Claude

Claude ist eine Familie großer Sprachmodelle des US-KI-Unternehmens Anthropic. Die Modelle verstehen und schreiben Texte in vielen Sprachen, werten Dokumente aus, programmieren und können Werkzeuge nutzen, etwa für Recherche oder Automatisierung. Bekannt sind vor allem die Modellfamilien Haiku, Sonnet und Opus, die sich in Geschwindigkeit, Kosten und Leistungsfähigkeit unterscheiden. Einen Schwerpunkt legt Anthropic auf Sicherheit und verlässliches Verhalten der Modelle.

  • Anthropic
  • Sprachmodell
  • +1