Glosario

Robustez de modelos

¿Qué es Robustez de modelos?

La robustez de un modelo describe lo fiable que es un modelo de IA cuando las entradas tienen ruido, están incompletas, son inusuales o se han manipulado a propósito. Un modelo robusto ofrece igualmente resultados estables, por ejemplo un reconocimiento de imágenes con poca luz o un modelo de lenguaje ante erratas. Se comprueba con pruebas de estrés, datos de entrenamiento variados y ensayos frente a intentos de engaño, y es clave en aplicaciones críticas para la seguridad.

Temas

fiabilidad
calidad del modelo
seguridad

Probar KI.ordo

Agentes, flujos y plantillas en un solo espacio de trabajo – demo gratuita de 24 horas.

Iniciar demo

← Todos los términos

Términos relacionados

Aprendizaje automático adversario

El aprendizaje automático adversario (adversarial machine learning) estudia cómo los modelos de IA pueden ser engañados mediante entradas o datos de entrenamiento manipulados a propósito, y cómo protegerlos. Ejemplos conocidos son cambios casi invisibles en una imagen que alteran su clasificación o datos de entrenamiento envenenados. El tema es relevante para las empresas en cuanto la IA apoya decisiones críticas para la seguridad. Entre las defensas están el entrenamiento robusto, la validación de entradas, la supervisión y las pruebas de seguridad periódicas.

Seguridad de la IA
Robustez
+1

Deriva del modelo (model drift)

La deriva del modelo (model drift) es la pérdida gradual de calidad predictiva de un modelo en producción porque la realidad cambia respecto a los datos de entrenamiento. Se distingue entre cambios en los datos de entrada (data drift) y cambios en la relación entre entradas y resultado (concept drift). Ejemplo: un modelo de detección de fraude deja de reconocer nuevos tipos de fraude. Los remedios son la supervisión continua de métricas y el reentrenamiento periódico.

MLOps
calidad del modelo
+1

Error de generalización

El error de generalización mide cuánto se equivoca un modelo de IA con datos nuevos que no ha visto antes, a diferencia del error con los datos de entrenamiento. Una gran diferencia entre ambos indica sobreajuste: el modelo ha memorizado ejemplos en vez de aprender patrones generales. Se estima con datos de prueba reservados o validación cruzada. Es la cifra que de verdad importa, porque en uso real el modelo casi solo encuentra casos nuevos.

Aprendizaje automático
Evaluación de modelos
+1

Sobreajuste (overfitting)

El sobreajuste (overfitting) se produce cuando un modelo memoriza los datos de entrenamiento, incluidos el azar y el ruido, en lugar de captar patrones de validez general. Parece muy preciso con los datos conocidos, pero da malos resultados con datos nuevos. Una señal típica es una gran diferencia entre el error de entrenamiento y el de prueba. Las contramedidas son más datos o datos más variados, modelos más sencillos, regularización, dropout y validación cruzada.

calidad del modelo
entrenamiento
+1