Glosario

Ética de la IA

¿Qué es Ética de la IA?

La ética de la IA se ocupa de las cuestiones morales que rodean el desarrollo y el uso de la IA: equidad y discriminación, transparencia y explicabilidad, protección de datos, responsabilidad por los errores, seguridad y efectos sobre el trabajo y la sociedad. En una organización se concreta en directrices, evaluaciones de riesgo, supervisión humana y una comunicación honesta sobre los límites de la IA. Ejemplo: antes de usar un filtro de candidaturas, compruebas que no perjudique a determinados grupos.

Temas

Ética
Responsabilidad
Equidad

Probar KI.ordo

Agentes, flujos y plantillas en un solo espacio de trabajo – demo gratuita de 24 horas.

Iniciar demo

← Todos los términos

Términos relacionados

Sesgo

En IA, el sesgo (bias) es una distorsión sistemática de los resultados. Suele deberse a datos de entrenamiento desequilibrados o marcados por la historia, pero también al diseño del modelo o a cómo se plantea la pregunta. Un ejemplo conocido: un filtro de candidaturas que aprende de contrataciones pasadas puede perpetuar desventajas existentes. En estadística, sesgo es además la desviación de una estimación respecto al valor real. Ayudan los datos diversos, las revisiones periódicas y que las decisiones de personal las tome una persona.

Ética de la IA
Equidad
+1

Transparencia de la IA

La transparencia de la IA significa dar a conocer cuándo interviene una IA, en qué datos y fuentes se basan sus resultados y cómo se llega a las decisiones. Incluye etiquetar los contenidos generados, citar fuentes verificables, mantener registros y documentar los cambios. Genera confianza, facilita localizar errores y en parte es obligatoria, por ejemplo por las obligaciones de transparencia del AI Act de la UE, según las cuales las personas deben poder saber que interactúan con una IA.

Transparencia
Confianza
+1

Explicabilidad

La explicabilidad (IA explicable, XAI) describe hasta qué punto se puede entender por qué un sistema de IA llega a un resultado concreto. Incluye métodos que muestran qué datos de entrada influyeron más en una decisión, y también recursos prácticos como citar las fuentes o registrar cada paso. Es clave para la confianza, la detección de errores y la regulación, por ejemplo cuando un banco debe justificar por qué rechazó una solicitud.

XAI
Transparencia
+1

IA y derechos humanos

El término describe cómo los sistemas de IA pueden afectar, para bien o para mal, a derechos humanos como la privacidad, la igualdad de trato, la libertad de expresión o las garantías procesales. Los riesgos surgen, por ejemplo, de decisiones discriminatorias, la vigilancia masiva, la identificación biométrica o la falta de vías para impugnar una decisión. Marcos internacionales como el Convenio Marco del Consejo de Europa sobre IA y el Reglamento de IA de la UE abordan estas cuestiones. Las organizaciones responden con evaluaciones de impacto, transparencia y supervisión humana.

Ética
Derechos fundamentales
+1