Glossar

Bias

Was ist Bias?

Bias bezeichnet in der KI eine systematische Verzerrung von Ergebnissen. Sie entsteht oft durch unausgewogene oder historisch geprägte Trainingsdaten, aber auch durch Modellaufbau oder Fragestellung. Ein bekanntes Beispiel: Ein Bewerbungsfilter, der aus früheren Einstellungen lernt, kann bestehende Benachteiligungen fortschreiben. In der Statistik meint Bias zudem die Abweichung einer Schätzung vom wahren Wert. Gegenmaßnahmen sind vielfältige Daten, regelmäßige Prüfungen und menschliche Entscheidungen bei Personalfragen.

Themen

KI-Ethik
Fairness
Datenqualität

KI.ordo ausprobieren

Agenten, Abläufe und Vorlagen in einem Arbeitsbereich – 24 Stunden kostenlos als Demo.

Demo starten

← Alle Begriffe

Verwandte Begriffe

Diskriminierung in der KI

Diskriminierung in der KI liegt vor, wenn ein KI-System Menschen aufgrund von Merkmalen wie Geschlecht, Herkunft, Alter oder Behinderung ungerechtfertigt benachteiligt. Ursachen sind meist verzerrte Trainingsdaten, ungeeignete Ersatzmerkmale wie die Postleitzahl oder fehlende Prüfungen; bekannt sind Fälle aus Bewerberauswahl und Kreditvergabe. Gegenmaßnahmen sind repräsentative Daten, regelmäßige Fairness-Tests, Transparenz und menschliche Kontrolle bei Entscheidungen über Personen.

Fairness
Bias
+1

Trainingsdaten

Trainingsdaten sind die Beispiele, aus denen ein KI-Modell Muster lernt – bei Sprachmodellen große Textsammlungen, bei Bildmodellen beschriftete Bilder. Ihre Qualität, Vielfalt und Aktualität bestimmen maßgeblich, wie zuverlässig, fair und auf welchem Wissensstand ein Modell später antwortet. Für Unternehmen ist zudem wichtig, ob ein Anbieter eingegebene Kundendaten für weiteres Training verwendet.

Daten
Training
+1

KI-Ethik

KI-Ethik befasst sich mit den moralischen Fragen rund um Entwicklung und Einsatz von KI: Fairness und Diskriminierung, Transparenz und Erklärbarkeit, Datenschutz, Verantwortung für Fehler, Sicherheit sowie Auswirkungen auf Arbeit und Gesellschaft. Für Organisationen wird sie konkret in Leitlinien, Risikoprüfungen, menschlicher Kontrolle und offener Kommunikation über die Grenzen von KI. Beispiel: Vor dem Einsatz eines Bewerbungsfilters wird geprüft, ob er bestimmte Gruppen benachteiligt.

Ethik
Verantwortung
+1

Erklärbarkeit

Erklärbarkeit (Explainable AI, XAI) beschreibt, wie gut sich nachvollziehen lässt, warum ein KI-System zu einem bestimmten Ergebnis kommt. Dazu gehören Methoden, die zeigen, welche Eingaben eine Entscheidung am stärksten beeinflusst haben, aber auch praktische Mittel wie Quellenangaben und Protokolle. Erklärbarkeit ist wichtig für Vertrauen, Fehlersuche und Regulierung – etwa wenn eine Bank begründen muss, warum ein Antrag abgelehnt wurde.

XAI
Transparenz
+1