А
Size: a a a
2019 April 01
А
А
SK
можно попробовать снизить количество бордеров, возможно для такого большого количества фичей разницы по качеству между дефолтными 128 и, например 32 может быть не заметно
SK
а по скорости обучения на GPU будет заметный прирост
А
Спасибо
А
На GPU обучается, как понимаю гугл даёт половину K80
А
где ~1162 CUDA ядра
SK
@noxoomo можешь подсказать, какая разница по скорости 128 vs 32 бордера?
А
Брал вчера Tesla P100 на час, там 3584 CUDA ядра. Быстрее колаба ровно в два раза.
VE
@noxoomo можешь подсказать, какая разница по скорости 128 vs 32 бордера?
на Kepler (K40, K80) большая, где-то раза в 3 (при больших датасетах)
на новых картах раза в 1.5 медленей
на новых картах раза в 1.5 медленей
N
А почему глубина отдельного дерева только 16 ? Мало. Я вот вчера на xgboost делал с глубиной 30
SK
Nikolay
А почему глубина отдельного дерева только 16 ? Мало. Я вот вчера на xgboost делал с глубиной 30
потому что у нас oblivious деревья
SK
то есть уже на глубине 16 получается 65536 листьев :)
SK
мы совсем скоро довыкатим несимметричные деревья, и тогда ваша боль в этом месте уйдет
SK
и вам еще придется выбирать, какие же деревья в вашем случае правда жгут :)
А
Разработчики, вы очень круты! Спасибо.
N
А как выбрать кол-во фитчей для каждого дерева? Rms?
N
Как по вашему опыту нужно оптимизировать этот параметр?
А
можно попробовать снизить количество бордеров, возможно для такого большого количества фичей разницы по качеству между дефолтными 128 и, например 32 может быть не заметно
ускорило с нача до 35 минут, спасибо. Точность на тесте упала с 0.825933 до 0.823368