Glossar

Erklärbarkeit

Auch bekannt als: XAI (Erklärbare KI)

Was ist Erklärbarkeit?

Erklärbarkeit (Explainable AI, XAI) beschreibt, wie gut sich nachvollziehen lässt, warum ein KI-System zu einem bestimmten Ergebnis kommt. Dazu gehören Methoden, die zeigen, welche Eingaben eine Entscheidung am stärksten beeinflusst haben, aber auch praktische Mittel wie Quellenangaben und Protokolle. Erklärbarkeit ist wichtig für Vertrauen, Fehlersuche und Regulierung – etwa wenn eine Bank begründen muss, warum ein Antrag abgelehnt wurde.

So hilft KI.ordo

KI.ordo macht Ergebnisse nachvollziehbar, indem Agenten Quellen angeben und Abläufe jeden Schritt protokollieren – das zeigt die Herkunft einer Antwort, nicht das Innenleben des Sprachmodells.

Mehr erfahren →

Themen

XAI
Transparenz
Vertrauen

KI.ordo ausprobieren

Agenten, Abläufe und Vorlagen in einem Arbeitsbereich – 24 Stunden kostenlos als Demo.

Demo starten

← Alle Begriffe

Verwandte Begriffe

KI-Transparenz

KI-Transparenz bedeutet, offenzulegen, wann KI im Spiel ist, auf welchen Daten und Quellen ihre Ergebnisse beruhen und wie Entscheidungen zustande kommen. Dazu gehören Kennzeichnung von KI-Inhalten, nachvollziehbare Quellenangaben, Protokolle und dokumentierte Änderungen. Transparenz schafft Vertrauen, erleichtert Fehlersuche und ist teilweise rechtlich vorgeschrieben – etwa durch die Transparenzpflichten der EU-KI-Verordnung, nach denen Menschen erkennen können sollen, dass sie mit einer KI interagieren.

Transparenz
Vertrauen
+1

Modellinterpretierbarkeit

Modellinterpretierbarkeit beschreibt, wie gut Menschen nachvollziehen können, wie ein KI-Modell zu seinen Ergebnissen kommt. Einfache Modelle wie Entscheidungsbäume sind von sich aus gut lesbar; bei komplexen neuronalen Netzen helfen Verfahren, die etwa den Einfluss einzelner Merkmale sichtbar machen. Interpretierbarkeit ist wichtig für Fehlersuche, Vertrauen und regulatorische Anforderungen, zum Beispiel wenn eine Kreditablehnung begründet werden muss.

Erklärbarkeit
Transparenz
+1

Algorithmus-Transparenz

Algorithmus-Transparenz bedeutet, dass nachvollziehbar ist, wie ein automatisiertes System zu einem Ergebnis kommt: welche Daten es nutzt, nach welchen Regeln es arbeitet und wo seine Grenzen liegen. Das stärkt Vertrauen, erleichtert Fehlersuche und ist zunehmend rechtlich gefordert, etwa durch Informationspflichten in der DSGVO und im EU AI Act. In der Praxis helfen Dokumentation, Quellenangaben, Protokolle und verständliche Hinweise für Betroffene.

Transparenz
KI-Ethik
+1

KI-Ethik

KI-Ethik befasst sich mit den moralischen Fragen rund um Entwicklung und Einsatz von KI: Fairness und Diskriminierung, Transparenz und Erklärbarkeit, Datenschutz, Verantwortung für Fehler, Sicherheit sowie Auswirkungen auf Arbeit und Gesellschaft. Für Organisationen wird sie konkret in Leitlinien, Risikoprüfungen, menschlicher Kontrolle und offener Kommunikation über die Grenzen von KI. Beispiel: Vor dem Einsatz eines Bewerbungsfilters wird geprüft, ob er bestimmte Gruppen benachteiligt.

Ethik
Verantwortung
+1