Нужно только learning rate указать явно, иначе подсчитается для 400 деревьев другой

Берем дефолтную модель, которая обучается 1000 итераций. Она находит оптимальную итерацию по валидационной выборке (допустим 351 дерево). Потом я ставлю n_estimators = 400, чтоб не так долго обучаться и получить тот же результат на 351м дереве. А результат получается другой. Но тут товарищ админ написал, что learning rate зависит от кол-ва деревьев и поэтому, как я догадываюсь, у менч и получается другой результат. Надо будет считать рейт с 1000 и явно указать такой же для модели с n_estimators=400

Я как раз ломал над этим голову

внезапно! Я думал, что всегда lr=0.03

не, есть специально подобранная формула

Сходил вчера на pycon.it . Все датасаентисты, с которыми я общался, знают, что такое catboost

Из преимуществ заявляют два:
1) Быстрый.
2) Когда не понятно, что делать с датасетом - нужно просто использовать catboost и не думать.

Быстрый относительно чего? У xgboost вроде действительно выигрывает немного, но lightgbm быстрее

>датасаентисты
>не думать
Датасаенс как он есть

👍🏻

У нас самый быстрый gpu 😎

Как оказалось, даже в такой ботве как последний сантандер своими размышлениями можно было прийти к более высокому скору.

А уж в реальной практике ситуации "непонятно, что делать с датасетом" вообще по идее не должно возникать.

Ну фиг знает,  Lightgbm у меня в 20 раз быстрей чём катбуст

это на обучении. А на прогнозе с большим количеством деревьев?

С такой скоростью я до прогноза не дойду :)))

Катфичи?

GPU?

а можно подбронее: что обучается и с какими параметрами?

Данные с соревнования crowdanalytix (mortgage,  бинарная классификация)