Glosario

Discriminación en la IA

¿Qué es Discriminación en la IA?

Hay discriminación en la IA cuando un sistema de IA perjudica injustamente a personas por características como el género, el origen, la edad o la discapacidad. Las causas suelen ser datos de entrenamiento sesgados, variables sustitutas inadecuadas como el código postal o la falta de pruebas; hay casos conocidos en selección de personal y concesión de créditos. Las contramedidas son datos representativos, pruebas de equidad periódicas, transparencia y control humano en las decisiones sobre personas.

Cómo ayuda KI.ordo

En los proyectos de KI.ordo, los agentes entregan borradores que las personas revisan y aprueban.

Temas

equidad
sesgo
ética de la IA

Probar KI.ordo

Agentes, flujos y plantillas en un solo espacio de trabajo – demo gratuita de 24 horas.

Iniciar demo

← Todos los términos

Términos relacionados

Sesgo

En IA, el sesgo (bias) es una distorsión sistemática de los resultados. Suele deberse a datos de entrenamiento desequilibrados o marcados por la historia, pero también al diseño del modelo o a cómo se plantea la pregunta. Un ejemplo conocido: un filtro de candidaturas que aprende de contrataciones pasadas puede perpetuar desventajas existentes. En estadística, sesgo es además la desviación de una estimación respecto al valor real. Ayudan los datos diversos, las revisiones periódicas y que las decisiones de personal las tome una persona.

Ética de la IA
Equidad
+1

Ética de la IA

La ética de la IA se ocupa de las cuestiones morales que rodean el desarrollo y el uso de la IA: equidad y discriminación, transparencia y explicabilidad, protección de datos, responsabilidad por los errores, seguridad y efectos sobre el trabajo y la sociedad. En una organización se concreta en directrices, evaluaciones de riesgo, supervisión humana y una comunicación honesta sobre los límites de la IA. Ejemplo: antes de usar un filtro de candidaturas, compruebas que no perjudique a determinados grupos.

Ética
Responsabilidad
+1

Explicabilidad

La explicabilidad (IA explicable, XAI) describe hasta qué punto se puede entender por qué un sistema de IA llega a un resultado concreto. Incluye métodos que muestran qué datos de entrada influyeron más en una decisión, y también recursos prácticos como citar las fuentes o registrar cada paso. Es clave para la confianza, la detección de errores y la regulación, por ejemplo cuando un banco debe justificar por qué rechazó una solicitud.

XAI
Transparencia
+1

Humano en el bucle (human-in-the-loop)

Humano en el bucle describe procesos en los que las personas intervienen en puntos definidos de un flujo de IA: revisan resultados, los aprueban, los corrigen o asumen los casos difíciles. Este principio reduce el riesgo de errores y mantiene la responsabilidad en manos humanas, sobre todo en decisiones que afectan a personas, dinero o cuestiones legales. Ejemplo: un agente de IA redacta respuestas a clientes y un empleado las revisa antes de enviarlas.

Aprobación
Supervisión
+1