Бустинг (Boosting)

Бустинг — метод обучения, при котором несколько простых моделей объединяют в одну сильную: каждая следующая модель обучается исправлять ошибки предыдущей. В результате получается модель точнее, чем каждая из них по отдельности.

Он позволяет получить точный прогноз, не создавая одну сложную модель с нуля.

• повышает точность прогноза по сравнению с одной простой моделью;
• хорошо работает на табличных данных: продажах, финансах, оттоке клиентов;
• учитывает сложные, нелинейные зависимости в данных;
• позволяет постепенно улучшать модель, добавляя новые составляющие;
• часто даёт лучший результат, чем более сложные модели, на структурированных данных.

Прогноз оттока клиентов, кредитный скоринг, прогноз спроса, поиск мошеннических операций.

Пример: банк использует бустинг для скоринга заявок на кредит, объединяя десятки простых моделей в одну точную систему оценки риска.

Бустинг чувствителен к шумным и ошибочным данным — модель, которая исправляет ошибки предыдущей, может начать подстраиваться под сам шум, если данные плохо очищены.