Glossar

Human-in-the-Loop (Mensch in der Schleife)

Was ist Human-in-the-Loop (Mensch in der Schleife)?

Human-in-the-Loop bezeichnet Abläufe, in denen Menschen an festgelegten Stellen in einen KI-Prozess eingreifen: Sie prüfen Ergebnisse, geben sie frei, korrigieren sie oder übernehmen schwierige Fälle. Das Prinzip senkt das Risiko fehlerhafter Ausgaben und sichert Verantwortung, besonders bei Entscheidungen über Menschen, Geld oder Recht. Beispiel: Ein KI-Agent entwirft Antworten auf Kundenanfragen, eine Mitarbeiterin prüft sie vor dem Versand.

So hilft KI.ordo

In KI.ordo-Projekten liefern Agenten Entwürfe, die Menschen freigeben, und der Website-Chat kann Gespräche per Kontaktformular an das Team übergeben.

Mehr erfahren →

Themen

Freigabe
Kontrolle
Verantwortung

KI.ordo ausprobieren

Agenten, Abläufe und Vorlagen in einem Arbeitsbereich – 24 Stunden kostenlos als Demo.

Demo starten

← Alle Begriffe

Verwandte Begriffe

KI-Automatisierungssystem

Ein KI-Automatisierungssystem verbindet klassische Prozessautomatisierung mit KI-Fähigkeiten wie Textverständnis, Klassifizierung oder Entscheidungsunterstützung. So lassen sich auch Abläufe mit unstrukturierten Eingaben automatisieren, etwa E-Mails, Formulare oder Anfragen. Typisch ist eine Kette aus Auslöser, Verarbeitungsschritten, Bedingungen und Ausgabe, ergänzt um menschliche Freigaben an kritischen Stellen. Beispiel: Eingehende Anfragen werden automatisch eingeordnet, zusammengefasst und an die zuständige Abteilung weitergeleitet.

Automatisierung
Prozesse
+1

Intelligente Agenten

Ein intelligenter Agent ist ein System, das seine Umgebung wahrnimmt, Informationen verarbeitet und selbstständig Handlungen wählt, um ein Ziel zu erreichen. Heute meint der Begriff meist Software auf Basis großer Sprachmodelle, die Anweisungen befolgt, Wissen nutzt und Werkzeuge aufruft, etwa eine Suche oder eine Schnittstelle. Wie viel ein Agent eigenständig darf, sollte bewusst festgelegt werden. Beispiel: Ein Agent beantwortet Kundenfragen anhand der Produktdokumentation.

Agenten
Autonomie
+1

Reinforcement Learning from Human Feedback (RLHF)

RLHF ist ein Trainingsverfahren, mit dem Sprachmodelle hilfreicher und sicherer werden. Menschen vergleichen und bewerten mehrere Antworten des Modells; aus diesen Urteilen wird ein Belohnungsmodell gelernt, das anschließend per Reinforcement Learning das Sprachmodell selbst nachtrainiert. So lernt es etwa, verständlicher zu antworten oder problematische Anfragen abzulehnen. RLHF findet beim Modellanbieter statt, bevor ein Modell veröffentlicht wird – nicht beim einzelnen Nutzer.

Training
menschliches Feedback
+1

Halluzination

Als Halluzination bezeichnet man Ausgaben eines KI-Modells, die überzeugend klingen, aber falsch oder frei erfunden sind – etwa ein nicht existierendes Gerichtsurteil, eine falsche Zahl oder eine erfundene Quelle. Die Ursache: Sprachmodelle erzeugen wahrscheinliche Formulierungen, sie schlagen nicht automatisch Fakten nach. Das Risiko sinkt, wenn Antworten auf geprüften Quellen beruhen, Belege angegeben werden und Menschen wichtige Ergebnisse kontrollieren.

Sprachmodelle
Verlässlichkeit
+1

Vorlage