Бегингът (bagging, съкращение от bootstrap aggregating) е ансамблов метод в машинното обучение: много модели се обучават върху случайно избрани извадки от обучителните данни, а прогнозите им се осредняват или обединяват чрез мнозинство. Това прави резултатите по-стабилни и намалява преобучението. Най-известният пример е случайната гора (random forest), която съчетава много дървета на решенията – например за прогнозиране на отлива на клиенти или на цени.
Агенти, потоци и шаблони в едно работно пространство – безплатна 24-часова демонстрация.
Стартирайте демотоРегресията със случайна гора предвижда числови стойности чрез комбиниране на много дървета на решенията. Всяко дърво се обучава върху случайна извадка от данните и случаен избор на признаци; резултатът е средната стойност от прогнозите на всички дървета. Това прави метода по-устойчив и по-малко склонен към свръхнагласяне от отделното дърво. Използва се например за прогнози за продажбите, оценки на цени или потребление на енергия – често като солидна отправна точка за таблични данни.
Бустингът (boosting) е ансамблов метод в машинното обучение, при който много прости модели се обучават един след друг, като всеки нов модел се съсредоточава върху случаите, в които предшествениците му са сгрешили. Заедно те образуват много по-точен общ модел. Известни варианти са AdaBoost и градиентният бустинг, с библиотеки като XGBoost или LightGBM. Бустингът е особено силен при таблични данни, например за прогнози за кредитен риск, продажби или отлив на клиенти.
Дървото на решенията е модел, който представя едно решение като поредица от прости въпроси с отговор „да/не“: всеки клон проверява един признак, а всеки лист дава резултат. В машинното обучение такива дървета се учат автоматично от данни и се използват за класификация или прогнозиране. Основната им сила е прозрачността – например показват защо дадено кредитно искане е отбелязано въз основа на доход, срок и история на плащанията.
Свръхнагласяне (overfitting) възниква, когато моделът запомня данните за обучение, включително случайните им особености и шум, вместо да улавя общовалидни закономерности. Тогава той изглежда много точен върху познати данни, но се представя слабо върху нови. Типичен признак е голямата разлика между грешката при обучение и при тест. Мерките включват повече или по-разнообразни данни, по-прости модели, регуляризация, dropout и кръстосана валидация.
