Glosario

IA constitucional

¿Qué es IA constitucional?

La IA constitucional (Constitutional AI) es un método de entrenamiento de modelos de lenguaje publicado por Anthropic en 2022; no tiene relación con el derecho constitucional. Se basa en un catálogo escrito de principios, la «constitución»: el modelo critica y revisa sus propias respuestas según esos principios, después una IA compara pares de respuestas y esas valoraciones sirven como señal de recompensa en el aprendizaje por refuerzo (RLAIF). Así se reduce la necesidad de que personas evalúen contenidos dañinos; en enero de 2026 Anthropic publicó una constitución revisada para Claude.

Cómo ayuda KI.ordo

Los modelos Claude de Anthropic que usa KI.ordo se entrenan, entre otros, con este método.

Temas

Entrenamiento
Seguridad de la IA
Anthropic

Probar KI.ordo

Agentes, flujos y plantillas en un solo espacio de trabajo – demo gratuita de 24 horas.

Iniciar demo

← Todos los términos

Términos relacionados

Aprendizaje por refuerzo con retroalimentación humana (RLHF)

El RLHF es un método de entrenamiento que hace que los modelos de lenguaje sean más útiles y seguros. Varias personas comparan y valoran distintas respuestas del modelo; con esos juicios se entrena un modelo de recompensa, que después reentrena el propio modelo de lenguaje mediante aprendizaje por refuerzo. Así aprende, por ejemplo, a responder con más claridad o a rechazar peticiones problemáticas. El RLHF lo realiza el proveedor del modelo antes de publicarlo, no cada usuario.

entrenamiento
retroalimentación humana
+1

Claude

Claude es una familia de grandes modelos de lenguaje de la empresa estadounidense de IA Anthropic. Los modelos entienden y redactan textos en muchos idiomas, analizan documentos, programan y pueden usar herramientas, por ejemplo para investigar o automatizar tareas. Las familias más conocidas son Haiku, Sonnet y Opus, que se diferencian en velocidad, coste y capacidad. Anthropic pone especial énfasis en la seguridad y en un comportamiento fiable de los modelos.

Anthropic
modelo de lenguaje
+1

Ética de la IA

La ética de la IA se ocupa de las cuestiones morales que rodean el desarrollo y el uso de la IA: equidad y discriminación, transparencia y explicabilidad, protección de datos, responsabilidad por los errores, seguridad y efectos sobre el trabajo y la sociedad. En una organización se concreta en directrices, evaluaciones de riesgo, supervisión humana y una comunicación honesta sobre los límites de la IA. Ejemplo: antes de usar un filtro de candidaturas, compruebas que no perjudique a determinados grupos.

Ética
Responsabilidad
+1

Seguridad de LLM

La seguridad de LLM abarca todas las medidas que protegen las aplicaciones basadas en grandes modelos de lenguaje frente a abusos, fugas de datos y comportamientos no deseados. Riesgos típicos son la inyección de prompts, la revelación de instrucciones o datos confidenciales y agentes con permisos excesivos. La protección se construye en varias capas: instrucciones claras, derechos limitados, control de entradas y salidas, cortafuegos de IA, red teaming y auditorías periódicas.

seguridad
modelos de lenguaje
+1

Plantilla