El bagging (abreviatura de bootstrap aggregating) es un método de conjunto en aprendizaje automático: se entrenan muchos modelos con muestras extraídas al azar de los datos de entrenamiento y sus predicciones se promedian o se combinan por mayoría. Así los resultados son más estables y se reduce el sobreajuste. El ejemplo más conocido es el bosque aleatorio, que combina muchos árboles de decisión, por ejemplo para predecir bajas de clientes o precios.
Agentes, flujos y plantillas en un solo espacio de trabajo – demo gratuita de 24 horas.
Iniciar demoLa regresión de bosque aleatorio (random forest) predice valores numéricos combinando muchos árboles de decisión. Cada árbol se entrena con una muestra aleatoria de los datos y una selección aleatoria de variables; el resultado es la media de las predicciones de todos los árboles. Así el método es más robusto y menos propenso al sobreajuste que un solo árbol. Se usa, por ejemplo, para previsiones de ventas, estimaciones de precios o demanda energética, a menudo como punto de partida sólido con datos tabulares.
El boosting es un método de conjunto en aprendizaje automático en el que se entrenan muchos modelos sencillos uno tras otro: cada nuevo modelo se centra en los casos en que fallaron los anteriores. Juntos forman un modelo global mucho más preciso. Variantes conocidas son AdaBoost y el gradient boosting, con bibliotecas como XGBoost o LightGBM. El boosting destaca con datos tabulares, por ejemplo en previsiones de riesgo crediticio, ventas o bajas de clientes.
Un árbol de decisión es un modelo que representa una decisión como una secuencia de preguntas sencillas de sí o no: cada rama comprueba una característica y cada hoja da un resultado. En el aprendizaje automático, estos árboles se aprenden a partir de datos y se usan para clasificar o predecir. Su gran ventaja es que se entienden fácilmente, por ejemplo para ver por qué se marcó una solicitud de crédito según ingresos, plazo e historial de pagos.
El sobreajuste (overfitting) se produce cuando un modelo memoriza los datos de entrenamiento, incluidos el azar y el ruido, en lugar de captar patrones de validez general. Parece muy preciso con los datos conocidos, pero da malos resultados con datos nuevos. Una señal típica es una gran diferencia entre el error de entrenamiento y el de prueba. Las contramedidas son más datos o datos más variados, modelos más sencillos, regularización, dropout y validación cruzada.
