El boosting es un método de conjunto en aprendizaje automático en el que se entrenan muchos modelos sencillos uno tras otro: cada nuevo modelo se centra en los casos en que fallaron los anteriores. Juntos forman un modelo global mucho más preciso. Variantes conocidas son AdaBoost y el gradient boosting, con bibliotecas como XGBoost o LightGBM. El boosting destaca con datos tabulares, por ejemplo en previsiones de riesgo crediticio, ventas o bajas de clientes.
Agentes, flujos y plantillas en un solo espacio de trabajo – demo gratuita de 24 horas.
Iniciar demoEl gradient boosting es una técnica de aprendizaje automático que combina, uno tras otro, muchos modelos sencillos, normalmente pequeños árboles de decisión. Cada nuevo árbol se entrena para reducir los errores que dejaron los anteriores. Así se obtienen modelos muy precisos para datos tabulares, por ejemplo para riesgo de crédito, previsión de ventas o probabilidad de abandono. Implementaciones conocidas son XGBoost, LightGBM y CatBoost; hace falta un ajuste cuidadoso para evitar el sobreajuste.
XGBoost (Extreme Gradient Boosting) es una biblioteca de código abierto que implementa de forma especialmente eficiente el gradient boosting con árboles de decisión. Se entrenan muchos árboles pequeños uno tras otro, cada uno corrigiendo los errores de los anteriores, y la regularización ayuda a evitar el sobreajuste. XGBoost es una opción probada para datos tabulares, por ejemplo para evaluar riesgo crediticio o prever bajas de clientes o ventas.
LightGBM es una biblioteca de código abierto para gradient boosting con árboles de decisión, desarrollada originalmente por Microsoft. Está pensada para ser rápida y usar poca memoria, entre otras cosas gracias al entrenamiento basado en histogramas y a árboles que crecen hoja a hoja a partir de la más prometedora. Es especialmente adecuada para grandes conjuntos de datos tabulares, como previsiones de ventas, predicción de bajas o detección de fraude, y suele compararse con XGBoost.
El bagging (abreviatura de bootstrap aggregating) es un método de conjunto en aprendizaje automático: se entrenan muchos modelos con muestras extraídas al azar de los datos de entrenamiento y sus predicciones se promedian o se combinan por mayoría. Así los resultados son más estables y se reduce el sobreajuste. El ejemplo más conocido es el bosque aleatorio, que combina muchos árboles de decisión, por ejemplo para predecir bajas de clientes o precios.
