Size: a a a

Machine learning

2021 January 20

K

K-S in Machine learning
ну это очень специфичная штука. Она в основном для сеток будет работать. И особенно при небольшом количестве данных. Как в МОА было, например
источник

K

K-S in Machine learning
К удивлению, кстати, стек не всегда даёт. Я вот сейчас решаю одно соревнование. Вроде и корреляция предиктов для стека небольшая (0.97 и 0.88), и качество базовых моделей сопоставимо, а стек только все портит :/
источник

SS

Sergey Salnikov in Machine learning
табулярный январь на кагле?
источник

K

K-S in Machine learning
Неа. Там бленд как раз работает. Но я чисто для технических бенчмарков его решаю
источник

K

K-S in Machine learning
Регрессия, без пропусков, анонимные данные — удобно что-то техническое потестить
источник

SS

Sergey Salnikov in Machine learning
я как раз на табулярном январе заинтересовался стэкингом, т.к. только это позволяет улучшить, т.к. фичи извлечь там практически нереально
источник

K

K-S in Machine learning
ну первое место что-то придумало, видать)
источник

K

K-S in Machine learning
да, с фичами там тухло
источник

SS

Sergey Salnikov in Machine learning
судя по лб - что-то прорывного там не придумали, идет возня за 5й знак после запятой
источник

K

K-S in Machine learning
ну почему? первое место оторвалось
источник

SS

Sergey Salnikov in Machine learning
в 4м знаке, ну такое
источник

K

K-S in Machine learning
Sergey Salnikov
судя по лб - что-то прорывного там не придумали, идет возня за 5й знак после запятой
у меня для сингла 3 штуки завелось. Сингл дает где-то в районе 0.69670. Потом просто его бленжу и все
источник

K

K-S in Machine learning
Sergey Salnikov
в 4м знаке, ну такое
ну для этого соревнования - это нормально)
источник

K

K-S in Machine learning
у меня была "умная" идея, но NGBoost люто медленный оказался, поэтому забил
источник

SS

Sergey Salnikov in Machine learning
там остается только тюнить и стекать. смотрел как-то структуру, задача похожа на предсказание z по (x, y) для перекошенного шарообразного облака точек, фич не наинженирить
источник

K

K-S in Machine learning
ну есть еще что-то))
источник

Ю

Юрий in Machine learning
K-S
у меня была "умная" идея, но NGBoost люто медленный оказался, поэтому забил
Блин, тоже встрял с чем-то подобным. Только не на третьем, а на 40м месте😂
источник

SS

Sergey Salnikov in Machine learning
а, только заметил, ты на 3м, круто!
источник

SS

Sergey Salnikov in Machine learning
альфа закончилась, вернусь тоже туда
источник

K

K-S in Machine learning
в целом идея был такая: давайте обучим GMM на таргете. Определим средние, стд и веса смеси. И обучим NGBoost на кастомном распределении, которым в нашем случае будет смесь. Но так как NGBoost не на плюсах написан, как остальные бусты, то это все это супермедленно
источник