Glosario

IA y derechos humanos

¿Qué es IA y derechos humanos?

El término describe cómo los sistemas de IA pueden afectar, para bien o para mal, a derechos humanos como la privacidad, la igualdad de trato, la libertad de expresión o las garantías procesales. Los riesgos surgen, por ejemplo, de decisiones discriminatorias, la vigilancia masiva, la identificación biométrica o la falta de vías para impugnar una decisión. Marcos internacionales como el Convenio Marco del Consejo de Europa sobre IA y el Reglamento de IA de la UE abordan estas cuestiones. Las organizaciones responden con evaluaciones de impacto, transparencia y supervisión humana.

Temas

  • Ética
  • Derechos fundamentales
  • Regulación

Probar KI.ordo

Agentes, flujos y plantillas en un solo espacio de trabajo – demo gratuita de 24 horas.

Iniciar demo
← Todos los términos

Términos relacionados

Ética de la IA

La ética de la IA se ocupa de las cuestiones morales que rodean el desarrollo y el uso de la IA: equidad y discriminación, transparencia y explicabilidad, protección de datos, responsabilidad por los errores, seguridad y efectos sobre el trabajo y la sociedad. En una organización se concreta en directrices, evaluaciones de riesgo, supervisión humana y una comunicación honesta sobre los límites de la IA. Ejemplo: antes de usar un filtro de candidaturas, compruebas que no perjudique a determinados grupos.

  • Ética
  • Responsabilidad
  • +1

Discriminación en la IA

Hay discriminación en la IA cuando un sistema de IA perjudica injustamente a personas por características como el género, el origen, la edad o la discapacidad. Las causas suelen ser datos de entrenamiento sesgados, variables sustitutas inadecuadas como el código postal o la falta de pruebas; hay casos conocidos en selección de personal y concesión de créditos. Las contramedidas son datos representativos, pruebas de equidad periódicas, transparencia y control humano en las decisiones sobre personas.

  • equidad
  • sesgo
  • +1

Normativa de protección de datos

La normativa de protección de datos son las reglas legales sobre el tratamiento de datos personales. En la UE la referencia es el Reglamento General de Protección de Datos (RGPD), que exige, entre otras cosas, una base jurídica para cada tratamiento, minimización de datos, transparencia con los interesados y contratos de encargo del tratamiento con los proveedores. Al usar IA, debes aclarar qué datos llegan a las entradas, las fuentes de conocimiento y los registros, y dónde se tratan.

  • RGPD
  • protección de datos
  • +1

Transparencia de la IA

La transparencia de la IA significa dar a conocer cuándo interviene una IA, en qué datos y fuentes se basan sus resultados y cómo se llega a las decisiones. Incluye etiquetar los contenidos generados, citar fuentes verificables, mantener registros y documentar los cambios. Genera confianza, facilita localizar errores y en parte es obligatoria, por ejemplo por las obligaciones de transparencia del AI Act de la UE, según las cuales las personas deben poder saber que interactúan con una IA.

  • Transparencia
  • Confianza
  • +1