Glossar

Diskriminierung in der KI

Was ist Diskriminierung in der KI?

Diskriminierung in der KI liegt vor, wenn ein KI-System Menschen aufgrund von Merkmalen wie Geschlecht, Herkunft, Alter oder Behinderung ungerechtfertigt benachteiligt. Ursachen sind meist verzerrte Trainingsdaten, ungeeignete Ersatzmerkmale wie die Postleitzahl oder fehlende Prüfungen; bekannt sind Fälle aus Bewerberauswahl und Kreditvergabe. Gegenmaßnahmen sind repräsentative Daten, regelmäßige Fairness-Tests, Transparenz und menschliche Kontrolle bei Entscheidungen über Personen.

So hilft KI.ordo

In KI.ordo-Projekten liefern Agenten Entwürfe, die Menschen prüfen und freigeben.

Themen

Fairness
Bias
KI-Ethik

KI.ordo ausprobieren

Agenten, Abläufe und Vorlagen in einem Arbeitsbereich – 24 Stunden kostenlos als Demo.

Demo starten

← Alle Begriffe

Verwandte Begriffe

Bias

Bias bezeichnet in der KI eine systematische Verzerrung von Ergebnissen. Sie entsteht oft durch unausgewogene oder historisch geprägte Trainingsdaten, aber auch durch Modellaufbau oder Fragestellung. Ein bekanntes Beispiel: Ein Bewerbungsfilter, der aus früheren Einstellungen lernt, kann bestehende Benachteiligungen fortschreiben. In der Statistik meint Bias zudem die Abweichung einer Schätzung vom wahren Wert. Gegenmaßnahmen sind vielfältige Daten, regelmäßige Prüfungen und menschliche Entscheidungen bei Personalfragen.

KI-Ethik
Fairness
+1

KI-Ethik

KI-Ethik befasst sich mit den moralischen Fragen rund um Entwicklung und Einsatz von KI: Fairness und Diskriminierung, Transparenz und Erklärbarkeit, Datenschutz, Verantwortung für Fehler, Sicherheit sowie Auswirkungen auf Arbeit und Gesellschaft. Für Organisationen wird sie konkret in Leitlinien, Risikoprüfungen, menschlicher Kontrolle und offener Kommunikation über die Grenzen von KI. Beispiel: Vor dem Einsatz eines Bewerbungsfilters wird geprüft, ob er bestimmte Gruppen benachteiligt.

Ethik
Verantwortung
+1

Erklärbarkeit

Erklärbarkeit (Explainable AI, XAI) beschreibt, wie gut sich nachvollziehen lässt, warum ein KI-System zu einem bestimmten Ergebnis kommt. Dazu gehören Methoden, die zeigen, welche Eingaben eine Entscheidung am stärksten beeinflusst haben, aber auch praktische Mittel wie Quellenangaben und Protokolle. Erklärbarkeit ist wichtig für Vertrauen, Fehlersuche und Regulierung – etwa wenn eine Bank begründen muss, warum ein Antrag abgelehnt wurde.

XAI
Transparenz
+1

Human-in-the-Loop (Mensch in der Schleife)

Human-in-the-Loop bezeichnet Abläufe, in denen Menschen an festgelegten Stellen in einen KI-Prozess eingreifen: Sie prüfen Ergebnisse, geben sie frei, korrigieren sie oder übernehmen schwierige Fälle. Das Prinzip senkt das Risiko fehlerhafter Ausgaben und sichert Verantwortung, besonders bei Entscheidungen über Menschen, Geld oder Recht. Beispiel: Ein KI-Agent entwirft Antworten auf Kundenanfragen, eine Mitarbeiterin prüft sie vor dem Versand.

Freigabe
Kontrolle
+1