G
Так в доке более-менее понятный гайд есть https://catboost.ai/docs/concepts/parameter-tuning.html
я про другое. Про то , что хотелось бы гайд по более-менее осмысленному подбору параметров в зависимости от особенностей датасета, и на примерах.
Size: a a a
2019 April 02
G
иначе это какая-то чёрная магия + сокровенные знания+ гадание на кофейной гуще рандомом
K
Байесовская оптимизация?
2019 April 03
OT
Добрый день!
Подскажите, как можно интерпретировать в предикте RawFormulaVal ? У меня получаются и отрицательные и положительные цифры, в сумме дающие 0. Как посоветуете их привести к вероятностям?
Подскажите, как можно интерпретировать в предикте RawFormulaVal ? У меня получаются и отрицательные и положительные цифры, в сумме дающие 0. Как посоветуете их привести к вероятностям?
AD
если бинарная классификация, то чтобы получить вероятности, нужно применить сигмоиду. Либо в питоне можно передать тип предсказания Probability
OT
если бинарная классификация, то чтобы получить вероятности, нужно применить сигмоиду. Либо в питоне можно передать тип предсказания Probability
Спасибо!
DB
@annaveronika предложение уважаемым разработчикам катбуста - нет ли у вас возможности сделать некий гайд с примерами по подбору гиперпараметров? Например, вот некий открытый датасет1, по нему хорошо работают такие-то параметры потому-то, а вот такие - не очень, вот датасет2, тут другая тема, работают такие-то параметры, а вот такие - работают плохо, вот датасет3... ну, вы поняли. Мне кажется, такой гайд был бы очень полезен всем, и сильно поднял бы популярность катбуста. Может, я не совсем в теме, и такой гайд уже есть - прошу кинуть ссылку
+++
DB
Я предлагаю в следующем формате - каждый параметр с описанием где он работает лучше и хуже
DB
откуда идея его появления
DB
просто гиперопт - это "перебор" всего
DB
а хотелось бы понимать природу параметра
DB
простые, вроде глубины деревьев - и так понятны
DB
а вот появление остальных не всегда очевидно
OS
Я предлагаю в следующем формате - каждый параметр с описанием где он работает лучше и хуже
А вот это смотрели? https://youtu.be/UYDwhuyWYSo
OS
Много что становится понятно
AK
Добрый день, а может кто прислать пример по работе с текстом в catboost, у меня 66к строк в таблице с колонками: 1 название организации, 2 региональная принадлежность (фед/рег/мун), хотелось бы подсунуть это модели и чтобы при добавления новых организаций он мог предсказывать региональную принадлежность
AK
Буду очень благодарен, спасибо
Аa
А нет ли в планах изменяемого lr? У меня вот задачка, на которой очень бодро заходит lr=0.6, но хотелось бы в какой-то момент начать его уменьшать. Стартовать обучение с lr=0.03 - это на несколько суток, думаю :(
AD
нет, такого в планах нет, потому что на нашем опыте начать с большого лернинг рейта, а потом уменьшить хуже, чем сразу начать с маленького. Если 0.03 слишком долго, можно поставить столько, сколько успеется, но меньше 0.6.
AG
А нет ли в планах изменяемого lr? У меня вот задачка, на которой очень бодро заходит lr=0.6, но хотелось бы в какой-то момент начать его уменьшать. Стартовать обучение с lr=0.03 - это на несколько суток, думаю :(
в gbm от h2o есть такая возможность, параметр называется learn_rate_annealing