Glosario

Sesgo

¿Qué es Sesgo?

En IA, el sesgo (bias) es una distorsión sistemática de los resultados. Suele deberse a datos de entrenamiento desequilibrados o marcados por la historia, pero también al diseño del modelo o a cómo se plantea la pregunta. Un ejemplo conocido: un filtro de candidaturas que aprende de contrataciones pasadas puede perpetuar desventajas existentes. En estadística, sesgo es además la desviación de una estimación respecto al valor real. Ayudan los datos diversos, las revisiones periódicas y que las decisiones de personal las tome una persona.

Temas

Ética de la IA
Equidad
Calidad de datos

Probar KI.ordo

Agentes, flujos y plantillas en un solo espacio de trabajo – demo gratuita de 24 horas.

Iniciar demo

← Todos los términos

Términos relacionados

Discriminación en la IA

Hay discriminación en la IA cuando un sistema de IA perjudica injustamente a personas por características como el género, el origen, la edad o la discapacidad. Las causas suelen ser datos de entrenamiento sesgados, variables sustitutas inadecuadas como el código postal o la falta de pruebas; hay casos conocidos en selección de personal y concesión de créditos. Las contramedidas son datos representativos, pruebas de equidad periódicas, transparencia y control humano en las decisiones sobre personas.

equidad
sesgo
+1

Datos de entrenamiento

Los datos de entrenamiento son los ejemplos con los que un modelo de IA aprende patrones: grandes colecciones de texto en los modelos de lenguaje, imágenes etiquetadas en los de visión. Su calidad, variedad y actualidad determinan en gran medida lo fiable y justo que será el modelo y lo actualizado que estará su conocimiento. Para tu empresa también importa si un proveedor usa los datos de clientes que introduces para seguir entrenando.

Datos
Entrenamiento
+1

Ética de la IA

La ética de la IA se ocupa de las cuestiones morales que rodean el desarrollo y el uso de la IA: equidad y discriminación, transparencia y explicabilidad, protección de datos, responsabilidad por los errores, seguridad y efectos sobre el trabajo y la sociedad. En una organización se concreta en directrices, evaluaciones de riesgo, supervisión humana y una comunicación honesta sobre los límites de la IA. Ejemplo: antes de usar un filtro de candidaturas, compruebas que no perjudique a determinados grupos.

Ética
Responsabilidad
+1

Explicabilidad

La explicabilidad (IA explicable, XAI) describe hasta qué punto se puede entender por qué un sistema de IA llega a un resultado concreto. Incluye métodos que muestran qué datos de entrada influyeron más en una decisión, y también recursos prácticos como citar las fuentes o registrar cada paso. Es clave para la confianza, la detección de errores y la regulación, por ejemplo cuando un banco debe justificar por qué rechazó una solicitud.

XAI
Transparencia
+1