Glossar

KI-Ethik

Was ist KI-Ethik?

KI-Ethik befasst sich mit den moralischen Fragen rund um Entwicklung und Einsatz von KI: Fairness und Diskriminierung, Transparenz und Erklärbarkeit, Datenschutz, Verantwortung für Fehler, Sicherheit sowie Auswirkungen auf Arbeit und Gesellschaft. Für Organisationen wird sie konkret in Leitlinien, Risikoprüfungen, menschlicher Kontrolle und offener Kommunikation über die Grenzen von KI. Beispiel: Vor dem Einsatz eines Bewerbungsfilters wird geprüft, ob er bestimmte Gruppen benachteiligt.

Themen

Ethik
Verantwortung
Fairness

KI.ordo ausprobieren

Agenten, Abläufe und Vorlagen in einem Arbeitsbereich – 24 Stunden kostenlos als Demo.

Demo starten

← Alle Begriffe

Verwandte Begriffe

Bias

Bias bezeichnet in der KI eine systematische Verzerrung von Ergebnissen. Sie entsteht oft durch unausgewogene oder historisch geprägte Trainingsdaten, aber auch durch Modellaufbau oder Fragestellung. Ein bekanntes Beispiel: Ein Bewerbungsfilter, der aus früheren Einstellungen lernt, kann bestehende Benachteiligungen fortschreiben. In der Statistik meint Bias zudem die Abweichung einer Schätzung vom wahren Wert. Gegenmaßnahmen sind vielfältige Daten, regelmäßige Prüfungen und menschliche Entscheidungen bei Personalfragen.

KI-Ethik
Fairness
+1

KI-Transparenz

KI-Transparenz bedeutet, offenzulegen, wann KI im Spiel ist, auf welchen Daten und Quellen ihre Ergebnisse beruhen und wie Entscheidungen zustande kommen. Dazu gehören Kennzeichnung von KI-Inhalten, nachvollziehbare Quellenangaben, Protokolle und dokumentierte Änderungen. Transparenz schafft Vertrauen, erleichtert Fehlersuche und ist teilweise rechtlich vorgeschrieben – etwa durch die Transparenzpflichten der EU-KI-Verordnung, nach denen Menschen erkennen können sollen, dass sie mit einer KI interagieren.

Transparenz
Vertrauen
+1

Erklärbarkeit

Erklärbarkeit (Explainable AI, XAI) beschreibt, wie gut sich nachvollziehen lässt, warum ein KI-System zu einem bestimmten Ergebnis kommt. Dazu gehören Methoden, die zeigen, welche Eingaben eine Entscheidung am stärksten beeinflusst haben, aber auch praktische Mittel wie Quellenangaben und Protokolle. Erklärbarkeit ist wichtig für Vertrauen, Fehlersuche und Regulierung – etwa wenn eine Bank begründen muss, warum ein Antrag abgelehnt wurde.

XAI
Transparenz
+1

KI und Menschenrechte

Der Begriff beschreibt, wie KI-Systeme Menschenrechte wie Privatsphäre, Gleichbehandlung, Meinungsfreiheit oder faire Verfahren berühren können, positiv wie negativ. Risiken entstehen etwa durch diskriminierende Entscheidungen, Massenüberwachung, biometrische Identifizierung oder fehlende Möglichkeiten, Entscheidungen anzufechten. Internationale Rahmenwerke wie die KI-Rahmenkonvention des Europarats und der EU AI Act greifen diese Fragen auf. Organisationen begegnen ihnen mit Folgenabschätzungen, Transparenz und menschlicher Kontrolle.

Ethik
Grundrechte
+1