EZ
Я пообщался с тем, кто плавает, он сказал, что фигня, ибо черт знает как там все складывается при нормальной среде, а не в кристалле, но я с ним не согласен.
Ну так AI is whatever hasn't been done yet
Size: a a a
2021 January 21
EZ
Если бы было бесполезно не было бы контекста с таким количеством участников
VC
Ещё ругается что результаты недостаточно четкие
VC
Кстати, возможно, эта проблема решается запуском физической анимации на церебре
EZ
Это статья, где в imagenet с помощью обученной сетки лэйблы починили?
Не, там типа фидбек от ученика учителю
VC
А в чем интуиция? Почему, он просто не уходит в оптимум, когда обе сети возвращают одно число на любой ответ?
EZ
А в чем интуиция? Почему, он просто не уходит в оптимум, когда обе сети возвращают одно число на любой ответ?
хороший вопрос, авторы пишут
> To see this, note that in Meta Pseudo Labels, the student’s training accuracy is measured by how much it agrees with the teacher’s pseudo labels. Therefore, the student in Meta Pseudo Labels having a lower training accuracy means that the student often disagrees with the pseudo labels that the teacher samples. This disagreement forces the teacher to constantly updates its weights to generate better pseudo labels, and makes it hard for the student to converge as the student has to learn from the teacher’s changing pseudo labels.
но для меня это все равно не очень интуитивно. можно в твиттере спросить, они довольно активно отвечают там
> To see this, note that in Meta Pseudo Labels, the student’s training accuracy is measured by how much it agrees with the teacher’s pseudo labels. Therefore, the student in Meta Pseudo Labels having a lower training accuracy means that the student often disagrees with the pseudo labels that the teacher samples. This disagreement forces the teacher to constantly updates its weights to generate better pseudo labels, and makes it hard for the student to converge as the student has to learn from the teacher’s changing pseudo labels.
но для меня это все равно не очень интуитивно. можно в твиттере спросить, они довольно активно отвечают там
VC
Возможно так не происходит, как раз из-за того, что чуть-чуть пообучали одну, после чуть-чуть другую и тогда студент будет иметь больше информации о форме ответов учителя. Тип, не только цифру как ответ, но и в как сильно цифра может изменяться. Другими словами, легко ли получить процент скамейки в стуле (он там бывает очень часто) или это исключение из правил.
Пока писал понял, что это делает лэйблы более робастными. (Убираем % скамейки, если нейросеть не уверена до конца, но если есть сильная уверенность, то они не уберутся)
Пока писал понял, что это делает лэйблы более робастными. (Убираем % скамейки, если нейросеть не уверена до конца, но если есть сильная уверенность, то они не уберутся)
X
Народ, возможно вопрос глупый,но, посоветуйте хорошую книгу, которую вы читали по Глубокому Гбучению и Нейросетям, основы и начальную теорию не надо, а именно уже.следующие шаги,где есть там: сверточные сети, векторизация, классификация текстов итд...
Ну, т.е уже поглубже..
Ну, т.е уже поглубже..
I
X
Народ, возможно вопрос глупый,но, посоветуйте хорошую книгу, которую вы читали по Глубокому Гбучению и Нейросетям, основы и начальную теорию не надо, а именно уже.следующие шаги,где есть там: сверточные сети, векторизация, классификация текстов итд...
Ну, т.е уже поглубже..
Ну, т.е уже поглубже..
в инете есть там "топ N книг по нейросетям" итд.. но выбрать какую я не знаю
X
Ivan
Шолле
Окей, погуглю спасибо.
MC
Народ, возможно вопрос глупый,но, посоветуйте хорошую книгу, которую вы читали по Глубокому Гбучению и Нейросетям, основы и начальную теорию не надо, а именно уже.следующие шаги,где есть там: сверточные сети, векторизация, классификация текстов итд...
Ну, т.е уже поглубже..
Ну, т.е уже поглубже..
D•
Народ, возможно вопрос глупый,но, посоветуйте хорошую книгу, которую вы читали по Глубокому Гбучению и Нейросетям, основы и начальную теорию не надо, а именно уже.следующие шаги,где есть там: сверточные сети, векторизация, классификация текстов итд...
Ну, т.е уже поглубже..
Ну, т.е уже поглубже..
Полезные ресурсы:
▫️Большая подборка материалов по AI & ML
▫️Список Демидовой Кати: статьи и примеры по AI и ML
▫️Книги из официального списка рекомендаций ШАДа
▫️Книги по AI и ML
▫️Data Scientist Roadmap
▫️Чат по Natural Language Processing
▫️Список каналов и групп для программистов
▫️Большая подборка материалов по AI & ML
▫️Список Демидовой Кати: статьи и примеры по AI и ML
▫️Книги из официального списка рекомендаций ШАДа
▫️Книги по AI и ML
▫️Data Scientist Roadmap
▫️Чат по Natural Language Processing
▫️Список каналов и групп для программистов
D
Кстати, есть какие-нибудь крутые прорывы за последний месяц, которые остались незаметными. Думаю, будет полезно такую инфу сюда накидать и пообсуждать
OS
А кто-то знает, быстрее ли колаб читает с дефолтного диска, чем с подключенного гуглдиска?
SH
У вас гпу не определяются => копать надо в версии либ/дрова и т.п. потом повторить процедуру с тф
спасибо большое, переустановил, скачал на версию назад. проверил совместимости. наконец увидели гпу
SL
спасибо большое, переустановил, скачал на версию назад. проверил совместимости. наконец увидели гпу
Молодцом)