Size: a a a

2021 January 20

ВК

Вячеслав Колосков... in catboost_ru
dmitry
Я сейчас работаю со spark и у нас потребность в обучении модели на кластере есть, если это позволит увеличить на порядок размер обучающий выборки (с соответствующим улучшением качества)
+100500
источник

ВК

Вячеслав Колосков... in catboost_ru
и lgbm на спарке - гуано :)
источник

SK

Stanislav Kirillov in catboost_ru
Sergey Salnikov
чиста из интереса - что именно распараллеливается на спарке? или там просто обертка?
Поспойлерю статью и код 🙂 Распараллеливается на самом деле все - и квантизация, и обучение
источник

SK

Stanislav Kirillov in catboost_ru
Тут мы реализовали лучший из известных нам паттернов обучения на больших таблицах, который используем в яндексе - перед обучением квантуй данные, клади квантованное представление в кеш, перебирай параметры, тратя на порядок меньше времени на загрузку квантованных, а не оригинальных данные (данный подход не работает для подбора параметров квантизации)
источник

VS

Vitaly S in catboost_ru
Всем привет! Пытаюсь решить задачу построения прогноза, но прогноз не должен точно попадать, а быть чуть выше. То есть стоимость ошибки вверх и вниз асиметрична. Нашёл здесь через поиск пример для кастомной функции потерь, но не хватает знаний, чтобы понять как работает пример из документации (для RMSE), и каким образом я могу регулировать потери так, чтобы выставить интересующий меня уровень завышения над метками. Буду благодарен за любую информацию,ссылки на ресурсы, даже критику моего вопроса.
источник

VS

Vitaly S in catboost_ru
Переслано от Daniil Udimov
Добрый день!

Я пытаюсь добавить свою функцию потерь по инструкции https://catboost.ai/docs/concepts/python-usages-examples.html#user-defined-loss-function

При этом я беру оттуда пример кода для RmseObjective и использую его:
model = CatBoostRegressor(loss_function=RmseObjective())
model.fit(X=X, y=y)
При этом я получаю ошибку:
CatBoostError: catboost/private/libs/target/data_providers.cpp:325: No metrics specified


Кто-нибудь пробовал добавлять свои функции потерь? Можете подсказать, в чём ошибка?
источник

K

K-S in catboost_ru
Vitaly S
Всем привет! Пытаюсь решить задачу построения прогноза, но прогноз не должен точно попадать, а быть чуть выше. То есть стоимость ошибки вверх и вниз асиметрична. Нашёл здесь через поиск пример для кастомной функции потерь, но не хватает знаний, чтобы понять как работает пример из документации (для RMSE), и каким образом я могу регулировать потери так, чтобы выставить интересующий меня уровень завышения над метками. Буду благодарен за любую информацию,ссылки на ресурсы, даже критику моего вопроса.
CatBoostRegressor loss_function 'Quantile' вроде бы
источник

K

K-S in catboost_ru
ну и альфу задать останется
источник

TB

Taras B in catboost_ru
Nikita Dmitriev
У меня не получается воспроизвести
Такая ошибка должна возникать, если в опциях словаря нет поля dictionary_id. Т.е. для dictionaryId она действительно возникает, но у тебя там dictionary_id и все должно быть ок
Можешь попробовать перезагрузить кернел ноутбука и попробовать еще раз? Мало ли где-то что-то закешировалось..
рестарт кернела действительно помог - обучение пошло. Спасибо!
источник

VS

Vitaly S in catboost_ru
K-S
CatBoostRegressor loss_function 'Quantile' вроде бы
Спасибо, сейчас попробую, отпишусь о результатах
источник

d

dmitry in catboost_ru
Stanislav Kirillov
Тут мы реализовали лучший из известных нам паттернов обучения на больших таблицах, который используем в яндексе - перед обучением квантуй данные, клади квантованное представление в кеш, перебирай параметры, тратя на порядок меньше времени на загрузку квантованных, а не оригинальных данные (данный подход не работает для подбора параметров квантизации)
😎
источник

TB

Taras B in catboost_ru
Если мне не изменяет память, то вроде правили багу с feature_importances_ в моделях с текстовыми фичами. Но в версии 0.24.3 там array(None, dtype=object)
источник

VS

Vitaly S in catboost_ru
K-S
CatBoostRegressor loss_function 'Quantile' вроде бы
Получилось, все очень просто. Моя ошибка была в том, что я пытался с помощью потерь искать уровень асимметрии, а это можно сделать через кросс-валидацию одного параметра 👍
источник

SS

Sergey Salnikov in catboost_ru
как задизейблить предупреждения "Warning: less than 75% gpu memory available for training" во время fit?
источник
2021 January 21

ND

Nikita Dmitriev in catboost_ru
Taras B
Если мне не изменяет память, то вроде правили багу с feature_importances_ в моделях с текстовыми фичами. Но в версии 0.24.3 там array(None, dtype=object)
А в 0.24.4?
источник

S

Stanislav in catboost_ru
Привет, я недавно начал использовать catboost и каждый раз при обучении у меня рядом с тетрадкой создаётся большой файл core. В документации я не нашёл для чего он и как его положить куда-нибудь в другое место. Можете подсказать что это?
источник

ND

Nikita Dmitriev in catboost_ru
Stanislav
Привет, я недавно начал использовать catboost и каждый раз при обучении у меня рядом с тетрадкой создаётся большой файл core. В документации я не нашёл для чего он и как его положить куда-нибудь в другое место. Можете подсказать что это?
Привет!
А что в нем находится?
источник

ND

Nikita Dmitriev in catboost_ru
и он создается, когда ты вызываешь метод fit?
источник

S

Stanislav in catboost_ru
Nikita Dmitriev
Привет!
А что в нем находится?
Он бинарный просто, при fit создаётся
источник

ND

Nikita Dmitriev in catboost_ru
У тебя при этом обучение успешно завершается или падает?
источник