Glossar

Halluzination

Was ist Halluzination?

Als Halluzination bezeichnet man Ausgaben eines KI-Modells, die überzeugend klingen, aber falsch oder frei erfunden sind – etwa ein nicht existierendes Gerichtsurteil, eine falsche Zahl oder eine erfundene Quelle. Die Ursache: Sprachmodelle erzeugen wahrscheinliche Formulierungen, sie schlagen nicht automatisch Fakten nach. Das Risiko sinkt, wenn Antworten auf geprüften Quellen beruhen, Belege angegeben werden und Menschen wichtige Ergebnisse kontrollieren.

So hilft KI.ordo

KI.ordo-Agenten antworten aus Ihrem hinterlegten Wissen mit Quellenangabe und sagen offen, wenn sie etwas nicht wissen; die Vorlage „Faktencheck gegen das eigene Wissen“ hilft beim Prüfen – ausschließen lassen sich Fehler dennoch nicht.

Mehr erfahren →

Passende Vorlagen

Faktencheck gegen das eigene WissenPrüft die Aussagen eines Textes gegen Ihre Wissensquellen und markiert jede als belegt, nicht belegt oder widersprochen – mit Fundstelle.Vorlage ansehen →

Themen

Sprachmodelle
Verlässlichkeit
Risiko

KI.ordo ausprobieren

Agenten, Abläufe und Vorlagen in einem Arbeitsbereich – 24 Stunden kostenlos als Demo.

Demo starten

← Alle Begriffe

Verwandte Begriffe

Retrieval-Augmented Generation (RAG)

Retrieval-Augmented Generation verbindet eine Suche mit der Textgenerierung: Vor dem Antworten sucht das System in einer Wissenssammlung – etwa Handbüchern, Richtlinien oder FAQ – die passenden Abschnitte und gibt sie dem Sprachmodell als Kontext mit. So stützt sich die Antwort auf aktuelle, unternehmenseigene Inhalte statt nur auf das Trainingswissen des Modells. Das verringert erfundene Aussagen, macht Quellen nachvollziehbar und erlaubt Aktualisierungen ohne neues Training.

RAG
Wissenssuche
+1

Wissensstichtag (Knowledge Cutoff)

Der Wissensstichtag (Knowledge Cutoff) ist der Zeitpunkt, bis zu dem die Trainingsdaten eines Sprachmodells reichen. Ereignisse, Preise, Gesetze oder Produkte, die danach entstanden sind, kennt das Modell nicht von sich aus – es kann veraltete Angaben machen, wenn man es nicht mit aktuellen Informationen versorgt. Abhilfe schaffen Verfahren, die zur Laufzeit eigene Dokumente oder aktuelle Webinhalte einbinden.

LLM
Aktualität
+1

Großes Sprachmodell (LLM)

Ein großes Sprachmodell (Large Language Model, LLM) ist ein neuronales Netz, das mit sehr großen Textmengen trainiert wurde und dadurch Sprache verstehen und erzeugen kann. Es arbeitet, indem es Schritt für Schritt das wahrscheinlichste nächste Token berechnet. LLMs schreiben, fassen zusammen, übersetzen, beantworten Fragen und erzeugen Code; bekannte Beispiele sind Claude, GPT, Gemini und Llama. Ohne Zugriff auf aktuelle Quellen kennen sie nur den Stand ihrer Trainingsdaten.

Sprachmodelle
Generative KI
+1

Human-in-the-Loop (Mensch in der Schleife)

Human-in-the-Loop bezeichnet Abläufe, in denen Menschen an festgelegten Stellen in einen KI-Prozess eingreifen: Sie prüfen Ergebnisse, geben sie frei, korrigieren sie oder übernehmen schwierige Fälle. Das Prinzip senkt das Risiko fehlerhafter Ausgaben und sichert Verantwortung, besonders bei Entscheidungen über Menschen, Geld oder Recht. Beispiel: Ein KI-Agent entwirft Antworten auf Kundenanfragen, eine Mitarbeiterin prüft sie vor dem Versand.

Freigabe
Kontrolle
+1