Телеграмм чат группы datasciencecourse страница 5241

1000 неинформативных признаков при того же порядка объектов позволят вашей можели переобучиться на них спокойно. Лассо помогает этого избежать. Плюс в силу того, что градиент L1 будет штрафовать использование признака, который не дает существенного прироста до тех пор, пока коэффициент не станет равным 0, то да, это поможет отобрать.

источник

13:55пожаловаться #4

Dmitry Penzar in Machine learning

Лассо штрафует любое значение коэффициента кроме 0 одинаково. Потому утверждения неверно

источник

13:56пожаловаться #5

K-S in Machine learning

какое именно утверждение?

источник

13:57пожаловаться #6

Dmitry Penzar in Machine learning

"При остальных переменных уменьшит веса"

источник

14:00пожаловаться #7

K-S in Machine learning

хм... https://www.stat.cmu.edu/~ryantibs/convexopt-S15/scribes/08-prox-grad-scribed.pdf

источник

14:05пожаловаться #8

K-S in Machine learning

я верно вас понял, что вы утверждаете, мол лассо занулит только веса при части признаков, а при остальных оставит без изменений?

источник

14:08пожаловаться #9

Dmitry Penzar in Machine learning

Он не обязан в них вносить изменения

источник

14:10пожаловаться #10

Dmitry Penzar in Machine learning

Так как значение градиента лосс функции для модели с ошибкой 0 и коэффициентами 5 и 2 такое же, как и для модели с ощибкой 0 и коэффициентами 50 и 20

источник

14:10пожаловаться #11

Dmitry Penzar in Machine learning

Ща, я сформулирую более правильно. Ибо выше я сказал в общем случае неверно.

Если оптимизатор может уменьшить веса при коэффициентах без ухудшения ошибки, то он это сделает, вы правы.

Но если есть сколько-нибудь малое падение качества, даже абсолютно незначимое - нет.

Так как разницы между градиентом у весов 6, 5 и 9,20 нет.

источник

14:25пожаловаться #12

Dmitry Penzar in Machine learning

Потому и делают elastic net, чтобы в принципе большие веса штрафовать в сравнении с малыми

источник

14:25пожаловаться #13

Dmitry Penzar in Machine learning

Прошу прощения, в начале действительно неверно написал

источник

14:26пожаловаться #14

Alex Ololo in Machine learning

спс. полезно

источник

14:44пожаловаться #15

kasov in Machine learning

Всем привет
Кто-нибудь подавал заявку в slack ods?
Я вот подал, но что-то не уверен, что примут)
Кажется, мои 2.5 курса за плечами, проект по прогнозированию свойств материала на основе состава и проект по определению акцента говорящего по аудиозаписи как-то недостаточно для вступления
А еще этот вопрос "что вы можете предложить сообществу"...
Насколько нужно быть продвинутым в ds, чтобы вступить?)

источник

15:09пожаловаться #16

Pavel Kozlov in Machine learning

Принимают вроде бы всех или абсолютное большинство

источник

15:18пожаловаться #17

Pavel Kozlov in Machine learning

Всем привет. Нестандартный вопрос, как называется то что мы решаем задачу методами например линейной алгебры использую ее свойства и тп. Т.е. допустим как в первом курсе мы перевели предложения в векторы и нашли самое маленькое косинусное расстояние, как это описать «мы нашли самое похожее предложения с учетом ограничений линейной алгебры» или что-то такое не могу понять как это можно формально записать

источник

15:26пожаловаться #18

Pavel Kozlov in Machine learning

В русском сегменте что-то лучше есть или только англ?

источник

15:28пожаловаться #19

igor in Machine learning

In our solution we used the linear algebra machinery

источник

15:30пожаловаться #20