Glossar

KI und Menschenrechte

Was ist KI und Menschenrechte?

Der Begriff beschreibt, wie KI-Systeme Menschenrechte wie Privatsphäre, Gleichbehandlung, Meinungsfreiheit oder faire Verfahren berühren können, positiv wie negativ. Risiken entstehen etwa durch diskriminierende Entscheidungen, Massenüberwachung, biometrische Identifizierung oder fehlende Möglichkeiten, Entscheidungen anzufechten. Internationale Rahmenwerke wie die KI-Rahmenkonvention des Europarats und der EU AI Act greifen diese Fragen auf. Organisationen begegnen ihnen mit Folgenabschätzungen, Transparenz und menschlicher Kontrolle.

Themen

Ethik
Grundrechte
Regulierung

KI.ordo ausprobieren

Agenten, Abläufe und Vorlagen in einem Arbeitsbereich – 24 Stunden kostenlos als Demo.

Demo starten

← Alle Begriffe

Verwandte Begriffe

KI-Ethik

KI-Ethik befasst sich mit den moralischen Fragen rund um Entwicklung und Einsatz von KI: Fairness und Diskriminierung, Transparenz und Erklärbarkeit, Datenschutz, Verantwortung für Fehler, Sicherheit sowie Auswirkungen auf Arbeit und Gesellschaft. Für Organisationen wird sie konkret in Leitlinien, Risikoprüfungen, menschlicher Kontrolle und offener Kommunikation über die Grenzen von KI. Beispiel: Vor dem Einsatz eines Bewerbungsfilters wird geprüft, ob er bestimmte Gruppen benachteiligt.

Ethik
Verantwortung
+1

Diskriminierung in der KI

Diskriminierung in der KI liegt vor, wenn ein KI-System Menschen aufgrund von Merkmalen wie Geschlecht, Herkunft, Alter oder Behinderung ungerechtfertigt benachteiligt. Ursachen sind meist verzerrte Trainingsdaten, ungeeignete Ersatzmerkmale wie die Postleitzahl oder fehlende Prüfungen; bekannt sind Fälle aus Bewerberauswahl und Kreditvergabe. Gegenmaßnahmen sind repräsentative Daten, regelmäßige Fairness-Tests, Transparenz und menschliche Kontrolle bei Entscheidungen über Personen.

Fairness
Bias
+1

Datenschutzvorschriften

Datenschutzvorschriften sind gesetzliche Regeln für den Umgang mit personenbezogenen Daten. In der EU ist die Datenschutz-Grundverordnung (DSGVO) maßgeblich; sie verlangt unter anderem eine Rechtsgrundlage für jede Verarbeitung, Datensparsamkeit, Transparenz gegenüber Betroffenen und Verträge zur Auftragsverarbeitung mit Dienstleistern. Beim Einsatz von KI ist zu klären, welche Daten in Eingaben, Wissensquellen und Protokolle gelangen und wo sie verarbeitet werden.

DSGVO
Datenschutz
+1

KI-Transparenz

KI-Transparenz bedeutet, offenzulegen, wann KI im Spiel ist, auf welchen Daten und Quellen ihre Ergebnisse beruhen und wie Entscheidungen zustande kommen. Dazu gehören Kennzeichnung von KI-Inhalten, nachvollziehbare Quellenangaben, Protokolle und dokumentierte Änderungen. Transparenz schafft Vertrauen, erleichtert Fehlersuche und ist teilweise rechtlich vorgeschrieben – etwa durch die Transparenzpflichten der EU-KI-Verordnung, nach denen Menschen erkennen können sollen, dass sie mit einer KI interagieren.

Transparenz
Vertrauen
+1