Вы пробовали регуляризацию еще крутить? Я правильно понимаю, что серые точки это трейнсет?

С катбустом не пробовал регуляризацию

Серые - это вся БД

а черное это истинная функция?

А есть вообще какая-то разница со склерновской имплементацией RF? Или это чисто, чтобы апи не менять?)

И в фичах что - время, лаги предыдущих значений или что.

Нет, это аналитическая модель)
Которая тоже пытается приблизить данные

Я не знаю деталей имплементации, но лес у лгбм существенно быстрее, но качество хуже склерн версии из моего опыта.

По X - одна из входных фичей, по Y - одна из выходных

Временной и пространственной структуры тут нет

Интересно. Почитать надо на досуге. Можно было бы предположить, что они просто свои оптимизации и навороты к фичам добавили в обычный RF, но это только идеи

Скорее всего, тупо свои деревья с методами сэмплирования независимо строят и усредняют, да.

Привет, поделитесь свои опытом, если мне в задаче ранжирования важно только верное определение топ-1, то какие целевые функции стоит пытаться перебирать? Из чтения доков показалось, что можно пробовать только QuerySoftMax и YetiRankPairwise, есть ли истории успеха с другими целевыми лоссами? Еще 1 специфика: для примеров в группе есть оценки "плохости" x из  [0;+inf), если я сделаю лейблы -x, то будут ли автоматом веса пар браться на основании x_1 - x_2 (ну или exp(x_1 - x_2) или exp(x_1) - exp(x_2), просто чтобы учитывало, насколько хуже станет итоговый скор). На всякий случай, в итоге, оптимизирую средний x по датасету.

Привет! Я начинающих пользователь обучения на деревьях (больше использую нейросети). 1. Как обучать катбуст на объеме данных, который в сотни раз больше объема оперативной памяти? 2. Как дообучать модель на стриминговых (свежих) данных? Спасибо

и на первый и на второй вопрос решение одинаковое, так как катбуст это набор деревьев, которые обучаются на разных подвыборках, но прогнозируют ошибки предыдущего дерева, то можно последовательно учить каждое дерево на новой подвыборке данных

точно так же и с дообучением

я вас вчера видел в ютубе 😉

удачное совпадение

Спасибо, Валерий! Категорийные данные надо специально готовить? У меня после перевода категорий в integers работает норм, без перевода - не работает. Так и должно быть?

интересно, в какой контексте люди обсуждают кластеры тогда, если эта штука итеративно нормально обучается? Зачем спарк и прочее?

одно не отменяет другого, можно строить дерево используя сразу несколько машин