AK
На CPU. Пока CatBoost Spark на GPU не умеет работать: https://github.com/catboost/catboost/tree/master/catboost/spark/catboost4j-spark#known-limitations
Size: a a a
2021 June 02
AK
Это ошибка https://github.com/catboost/catboost/issues/1650, она уже исправлена в мастере и сегодня должен выехать релиз куда это войдет
EK
Спасибо, я на самом деле искал, но плохо 😂😭
L
Спасибо🙂 тогда переспрошу по поводу дообучения. Обучил первую модель, обучал на gpu, так как cpu не тянет такой объём данных и долго работает. Вчера смотрел доки и понял что init_model под gpu не работает… остаётся только baseline, теперь вопрос, baseline от init_model сильно будет по качеству отличаться? Будет ли init_model на gpu в будущем?
2021 June 03
TB
А кто может расшифровать ошибку
CatBoostError: catboost/private/libs/feature_estimator/feature_estimator.h:35: Attempt to call single feature writer on packed feature writer? 0.25.1
TB
На CPU нет такой ошибки
T
Сегодня на митапе рассказывали, что catboost на spark можно для задачи ранжирования использовать.
Кто-нибудь пробовал? Может поделиться опытом?
Кто-нибудь пробовал? Может поделиться опытом?
A
а есть видео доклада?
SI
A
Спасибо большое!
2021 June 04
K
A как бустинговая L1 регуляризация вам поможет при отборе фич? Или это несвязанные вопросы?
VS
Кажется я понял свою промашку, спасибо
AK
> Что порекомендуете использовать для отбора фич
https://twitter.com/CatBoostML/status/1392962805855358977
https://twitter.com/CatBoostML/status/1392962805855358977
AK
Привет всем! Вышeл CatBoost 0.26.
New features
#972. Add model evaluation on GPU. Thanks to @rakalexandra.
Support Langevin on GPU
Save class labels to models in cross validation
#1524. Return models after CV. Thanks to @vklyukin
[Python] #766. Add CatBoostRanker & pool.get_group_id_hash() for ranking. Thanks to @AnnaAraslanova
#262. Make CatBoost widget work in jupyter lab. Thanks to @Dm17r1y
[GPU only] Allow to add exponent to score aggregation function
Allow to specify threshold parameter for binary classification model. Thanks to @Keksozavr.
[C Model API] #503. Allow to specify prediction type.
[C Model API] #1201. Get predictions for a specific class.
Breaking changes
#1628. Use CUDA 11 by default. CatBoost GPU now requires Linux x86_64 Driver Version >= 450.51.06 Windows x86_64 Driver Version >= 451.82.
Losses and metrics
Add MRR and ERR metrics on CPU.
Add LambdaMart loss.
#1557. Add survivalAFT base logic. Thanks to @blatr.
#1286. Add Cox Proportional Hazards Loss. Thanks to @fibersel.
#1595. Provide object-oriented interface for setting up metric parameters. Thanks to @ks-korovina.
Change default YetiRank decay to 0.85 for better quality.
Python package
#1372. Custom logging stream in python package. Thanks to @DianaArapova.
#1304. Callback after iteration functionality. Thanks to @qoter.
R package
#251. Train parameter synonyms. Thanks to @ebalukova.
#252. Add eval_metrics. Thanks to @ebalukova.
Speedups
[Python] Speed up custom metrics and objectives with numba (if available)
[Python] #1710. Large speedup for cv dataset splitting by sklearn splitter
Other
Use Exact leaves estimation method as default on GPU
[Spark] #1632. Update version of Scala 2.11 for security reasons.
[Python] #1695. Explicitly specify WHEEL 'Root-Is-Purelib' value
Bugfixes
Fix default projection dimension for embeddings
Fix use_weights for some eval_metrics on GPU - use_weights=False is always respected now
[Spark] #1649. The earlyStoppingRounds parameter is not recognized
[Spark] #1650. Error when using the autoClassWeights parameter
[Spark] #1651. Error about "Auto-stop PValue" when using odType "Iter" and odWait
Fix usage of pairlogit weights for CPU fallback metrics when training on GPU
New features
#972. Add model evaluation on GPU. Thanks to @rakalexandra.
Support Langevin on GPU
Save class labels to models in cross validation
#1524. Return models after CV. Thanks to @vklyukin
[Python] #766. Add CatBoostRanker & pool.get_group_id_hash() for ranking. Thanks to @AnnaAraslanova
#262. Make CatBoost widget work in jupyter lab. Thanks to @Dm17r1y
[GPU only] Allow to add exponent to score aggregation function
Allow to specify threshold parameter for binary classification model. Thanks to @Keksozavr.
[C Model API] #503. Allow to specify prediction type.
[C Model API] #1201. Get predictions for a specific class.
Breaking changes
#1628. Use CUDA 11 by default. CatBoost GPU now requires Linux x86_64 Driver Version >= 450.51.06 Windows x86_64 Driver Version >= 451.82.
Losses and metrics
Add MRR and ERR metrics on CPU.
Add LambdaMart loss.
#1557. Add survivalAFT base logic. Thanks to @blatr.
#1286. Add Cox Proportional Hazards Loss. Thanks to @fibersel.
#1595. Provide object-oriented interface for setting up metric parameters. Thanks to @ks-korovina.
Change default YetiRank decay to 0.85 for better quality.
Python package
#1372. Custom logging stream in python package. Thanks to @DianaArapova.
#1304. Callback after iteration functionality. Thanks to @qoter.
R package
#251. Train parameter synonyms. Thanks to @ebalukova.
#252. Add eval_metrics. Thanks to @ebalukova.
Speedups
[Python] Speed up custom metrics and objectives with numba (if available)
[Python] #1710. Large speedup for cv dataset splitting by sklearn splitter
Other
Use Exact leaves estimation method as default on GPU
[Spark] #1632. Update version of Scala 2.11 for security reasons.
[Python] #1695. Explicitly specify WHEEL 'Root-Is-Purelib' value
Bugfixes
Fix default projection dimension for embeddings
Fix use_weights for some eval_metrics on GPU - use_weights=False is always respected now
[Spark] #1649. The earlyStoppingRounds parameter is not recognized
[Spark] #1650. Error when using the autoClassWeights parameter
[Spark] #1651. Error about "Auto-stop PValue" when using odType "Iter" and odWait
Fix usage of pairlogit weights for CPU fallback metrics when training on GPU
EK
Друзья, вопрос, Catboost + Spark, как поменять boosting-type? Enum который должен использоваться я нашел, а метода для параметра нет (версия 0.25)
SK
Для распределенного обучения нет и, как мне видится, никогда не будет поддержки ордеред бустинга
SK
Во первых, потому что с распределенным обучение цена становится слишком велика в терминах времени обучения, а во-вторых в терминах сложности реализации
SK
Ну и плюс начиная с какого-то размера датасета, около 50-100к объектов, ордеред бустинг приносит совсем слабый профит по качеству, но сильно все замедляет
TB
А для эмбеддингов C API появилось?
BD
Привет, можете подсказать: умеет ли shap переваривать текстовые фичи кетбуста? А то попытался применить - падает с ошибкой, мол я пытаюсь прокинуть в числовую фичу текст, хотя при обучении фича помечалась как текстовая