Modellinterpretierbarkeit beschreibt, wie gut Menschen nachvollziehen können, wie ein KI-Modell zu seinen Ergebnissen kommt. Einfache Modelle wie Entscheidungsbäume sind von sich aus gut lesbar; bei komplexen neuronalen Netzen helfen Verfahren, die etwa den Einfluss einzelner Merkmale sichtbar machen. Interpretierbarkeit ist wichtig für Fehlersuche, Vertrauen und regulatorische Anforderungen, zum Beispiel wenn eine Kreditablehnung begründet werden muss.
Agenten, Abläufe und Vorlagen in einem Arbeitsbereich – 24 Stunden kostenlos als Demo.
Demo startenErklärbarkeit (Explainable AI, XAI) beschreibt, wie gut sich nachvollziehen lässt, warum ein KI-System zu einem bestimmten Ergebnis kommt. Dazu gehören Methoden, die zeigen, welche Eingaben eine Entscheidung am stärksten beeinflusst haben, aber auch praktische Mittel wie Quellenangaben und Protokolle. Erklärbarkeit ist wichtig für Vertrauen, Fehlersuche und Regulierung – etwa wenn eine Bank begründen muss, warum ein Antrag abgelehnt wurde.
KI-Transparenz bedeutet, offenzulegen, wann KI im Spiel ist, auf welchen Daten und Quellen ihre Ergebnisse beruhen und wie Entscheidungen zustande kommen. Dazu gehören Kennzeichnung von KI-Inhalten, nachvollziehbare Quellenangaben, Protokolle und dokumentierte Änderungen. Transparenz schafft Vertrauen, erleichtert Fehlersuche und ist teilweise rechtlich vorgeschrieben – etwa durch die Transparenzpflichten der EU-KI-Verordnung, nach denen Menschen erkennen können sollen, dass sie mit einer KI interagieren.
Algorithmus-Transparenz bedeutet, dass nachvollziehbar ist, wie ein automatisiertes System zu einem Ergebnis kommt: welche Daten es nutzt, nach welchen Regeln es arbeitet und wo seine Grenzen liegen. Das stärkt Vertrauen, erleichtert Fehlersuche und ist zunehmend rechtlich gefordert, etwa durch Informationspflichten in der DSGVO und im EU AI Act. In der Praxis helfen Dokumentation, Quellenangaben, Protokolle und verständliche Hinweise für Betroffene.
Ein Entscheidungsbaum ist ein Modell, das eine Entscheidung als Folge einfacher Ja-/Nein-Fragen darstellt: Jede Verzweigung prüft ein Merkmal, jedes Blatt liefert ein Ergebnis. Im maschinellen Lernen werden solche Bäume automatisch aus Daten gelernt und für Klassifikation oder Prognosen genutzt. Ihr Vorteil ist die Nachvollziehbarkeit – etwa bei der Frage, ob ein Kreditantrag anhand von Einkommen, Laufzeit und Vorgeschichte geprüft werden sollte.
