La regularización agrupa técnicas que impiden que un modelo se ajuste demasiado a sus datos de entrenamiento (sobreajuste). Por ejemplo, se penalizan los pesos demasiado grandes (regularización L1 o L2), se desactivan neuronas al azar (dropout) o se detiene el entrenamiento a tiempo (early stopping). El objetivo es un modelo más sencillo que funcione mejor con datos nuevos, aunque obtenga algo menos de acierto con los datos de entrenamiento.
Agentes, flujos y plantillas en un solo espacio de trabajo – demo gratuita de 24 horas.
Iniciar demoEl sobreajuste (overfitting) se produce cuando un modelo memoriza los datos de entrenamiento, incluidos el azar y el ruido, en lugar de captar patrones de validez general. Parece muy preciso con los datos conocidos, pero da malos resultados con datos nuevos. Una señal típica es una gran diferencia entre el error de entrenamiento y el de prueba. Las contramedidas son más datos o datos más variados, modelos más sencillos, regularización, dropout y validación cruzada.
El dropout es una técnica de regularización que se usa al entrenar redes neuronales: en cada paso de entrenamiento se desactiva temporalmente una parte aleatoria de las neuronas. Así la red no puede depender de conexiones concretas y aprende patrones más robustos. Esto reduce el sobreajuste, es decir, memorizar sin más los datos de entrenamiento. Cuando después se usa el modelo terminado, todas las neuronas vuelven a estar activas.
El error de generalización mide cuánto se equivoca un modelo de IA con datos nuevos que no ha visto antes, a diferencia del error con los datos de entrenamiento. Una gran diferencia entre ambos indica sobreajuste: el modelo ha memorizado ejemplos en vez de aprender patrones generales. Se estima con datos de prueba reservados o validación cruzada. Es la cifra que de verdad importa, porque en uso real el modelo casi solo encuentra casos nuevos.
Hay subajuste cuando un modelo es demasiado simple para captar las relaciones de los datos. Comete entonces muchos errores ya en los datos de entrenamiento y también en datos nuevos, por ejemplo cuando una recta debe representar una tendencia claramente curva. Puedes corregirlo con un modelo más potente, variables más informativas, más entrenamiento o menos regularización; el problema contrario es el sobreajuste (overfitting).
