IL
Да, ты прав, при boost_from_average начальный аппрокс проставляется в bias
Size: a a a
2021 February 16
2021 February 17
MK
Привет, вопрос по поводу обучения на GPU. Заметил что при обучении на GPU CatBoost активно использует одно ядро CPU. Насколько важна производительность в однопотоке? Например для топовых видеокарт типа GTX 3090 имеет ли смысл брать топовый по однопотоку процессор или достаточно взять процессор из первой десятки?
2021 February 18
LM
Спам
2021 February 19
TB
а есть аналог функции у катбуста?
IL
Нет. Если хочется посмотреть на деревья, то проще всего это сделать с помощью метода plot_tree. Еще можно сохранить в json и посмотреть на него.
TB
Нет. Если хочется посмотреть на деревья, то проще всего это сделать с помощью метода plot_tree. Еще можно сохранить в json и посмотреть на него.
Печально. Я думал написать враппер, чтобы можно было использовать dtreeviz. Там поинтересней визуализация
SK
Печально. Я думал написать враппер, чтобы можно было использовать dtreeviz. Там поинтересней визуализация
На самом деле, есть недокументированный внутренний API который используется в plot_tree
SK
Вы можете сделать контрибьюшн с экспортом деревьев в нужный вам формат
A
Скажите, есть какие-то советы по поводу параметров моделей для быстрого инференса? С учетом оригинальных деревьев катбуста, что оказывается лучше, меньше глубина и больше деревьев, или больше глубины с меньше древьев? Есть ли способы ускорять предсказания, например, вычислять значения "не полностью", и, если принадлежность к итоговому классу уже не изменится, то не трогать оставшиеся деревья/слои? Конкретно сейчас мне для задачи ранжирования.
2021 February 20
ЕП
Скажите, есть какие-то советы по поводу параметров моделей для быстрого инференса? С учетом оригинальных деревьев катбуста, что оказывается лучше, меньше глубина и больше деревьев, или больше глубины с меньше древьев? Есть ли способы ускорять предсказания, например, вычислять значения "не полностью", и, если принадлежность к итоговому классу уже не изменится, то не трогать оставшиеся деревья/слои? Конкретно сейчас мне для задачи ранжирования.
параметры обучения подбирают исходя из качества. если есть две модели с близким качеством, то применяться быстрее будет модель меньшего размера. катбуст применяет модель целиком. возможно, иногда имеет смысл оценить сверху влияние хвостов модели на прогноз и останавливаться раньше. мы это не исследовали.
A
> то применяться быстрее будет модель меньшего размера
Вопрос был как раз про то, что обычно дает меньший latency применения для стандартных SymetricTrees — меньше глубины, или меньше деревьев. Мне заранее неинтересны модели с latency применения выше определенного, и поэтому я хочу соответсвующе ограничить множество перебираемых гиперпараметров.
Вопрос был как раз про то, что обычно дает меньший latency применения для стандартных SymetricTrees — меньше глубины, или меньше деревьев. Мне заранее неинтересны модели с latency применения выше определенного, и поэтому я хочу соответсвующе ограничить множество перебираемых гиперпараметров.
ЕП
> то применяться быстрее будет модель меньшего размера
Вопрос был как раз про то, что обычно дает меньший latency применения для стандартных SymetricTrees — меньше глубины, или меньше деревьев. Мне заранее неинтересны модели с latency применения выше определенного, и поэтому я хочу соответсвующе ограничить множество перебираемых гиперпараметров.
Вопрос был как раз про то, что обычно дает меньший latency применения для стандартных SymetricTrees — меньше глубины, или меньше деревьев. Мне заранее неинтересны модели с latency применения выше определенного, и поэтому я хочу соответсвующе ограничить множество перебираемых гиперпараметров.
латенси применения линейна по размеру модели. если нет катфичей, то размер модели = O(число деревьев * глубина дерева * число листьев в дереве).
2021 February 21
A
добрый день! как лучше всего настраивать гипермараметры для catboost? Использовать методы самого catboosta или лучше сторонюю библиотеку типа hyperopt
ЕП
добрый день! как лучше всего настраивать гипермараметры для catboost? Использовать методы самого catboosta или лучше сторонюю библиотеку типа hyperopt
катбустовый гиперопт умеет экономить на построении сетки для значений фичей.
AK
катбустовый гиперопт умеет экономить на построении сетки для значений фичей.
А "катбустовый гиперопт" это как? Это grid_search или что-то другое?
ЕП
А "катбустовый гиперопт" это как? Это grid_search или что-то другое?
2021 February 24
A
добрый день! какую loss_function вы бы посоветовали для предсказания редких событий. Мне нужно с наибольшей точностью предсказать пики. Идеально, если бы можно было определить порог
SK
Привет!
SK
А ты хочешь больше штрафовать за выбросы?