подскажи пж - есть ли готовая либа для многоклассовой классификации текста? в catboost удобно - можно для ускорения пропустить этап векторизации текста

бейзлайн вроде как tf-idf + svm/logreg и вроде быстро работает и качество достаточно неплохое, а так использовать bert)
не часто работаю с текстом, мб тебе кто-то подскажет более релевантную инфу

ок. спасибо!

https://t.me/natural_language_processing
тут точно подскажут)

Есть вопрос как ускорить обучение со своим custom_loss  @kizill
* Если использовать стандартный лосс, то время на итерацию примерно 0.1 сек
* Если использую свой лосс, тогда время итерации увеличивается в 50 раз: до 5-7 секунд. Причём бОльшая часть времени тратится где-то внутри кэтбуста, мой лосс считается очень быстро.
* При этом lightgbm работает гораздо быстрее с тем же лоссом.

Думается, что что-то не так происходит.
https://pastebin.com/Liwhr33P  -- вот тут минимальный пример

А пробуешь на 0.26?

Попробуйте установить numba

сейчас попробую 0.26 + numba

Отлично. Гораздо быстрее и теперь почти сравнимо по скорости со стандартным лосом! Спасибо

Поизмерял:
* самый большой эффект дал апдейт 0.25 -> 0.26
* эффект от numba тоже есть, но небольшой

😻

Класс!

Ещё важный момент для ускорения catboost vs lightgbm:

X = np.array(X, order="F")

Без этого ужасно тормозит catboost почему-то.

Думаю вы можете проверять тип паддинга массива на входе и хотя бы warning писать. Ибо вообще не очевидно в чём проблема. @kizill

В целом такой совет правда имеет смысл писать в лог

Но в целом разница по скорости не должна быть катастрофической

Да, действительно, время самого обучения примерно такое. Но подготовка перед обучением (квантизация?) существенно дольше.

это время на python=>c++ передачу

у меня тут 16s  vs  1s.   Хотя массив сконвертировать можно за 0.3s

@kizill когда обновится документация есть информация? интересует CatboostRanker, да и в целом уже многое устарело в документации и накопились неточности