Size: a a a

ML Boot Camp Official

2020 November 08

SancheZz Мов in ML Boot Camp Official
Лан
источник

d

dePuff in ML Boot Camp Official
SancheZz Мов
Меньше каггл кернелы
Это мой код, а не копипаст
источник

SancheZz Мов in ML Boot Camp Official
Сори
источник

SancheZz Мов in ML Boot Camp Official
Ща покажу как в тф
источник

d

dePuff in ML Boot Camp Official
Я что-то не видел на кагле, чтобы красивенько с pytorch lighting
источник

d

dePuff in ML Boot Camp Official
Размерность скажи после своего mean
батч на hidden size берта?
источник

SancheZz Мов in ML Boot Camp Official
dePuff
Размерность скажи после своего mean
батч на hidden size берта?
Да
источник

SancheZz Мов in ML Boot Camp Official
К на 768
источник

SancheZz Мов in ML Boot Camp Official
Каждый сэмпл сентенс вектор
источник

SancheZz Мов in ML Boot Camp Official
Но
источник

SancheZz Мов in ML Boot Camp Official
Сложение по строчно
источник

SancheZz Мов in ML Boot Camp Official
источник

SancheZz Мов in ML Boot Camp Official
Получается что среднее внутри столбца
источник

SancheZz Мов in ML Boot Camp Official
Макс пуллинг в тф идет вдоль столбца
источник

SancheZz Мов in ML Boot Camp Official
Не по строке
источник

SancheZz Мов in ML Boot Camp Official
Ну можно ось указать
источник

SancheZz Мов in ML Boot Camp Official
Конкретно
источник

SancheZz Мов in ML Boot Camp Official
Если среднее по векторам фич слов понятно это сентенс вектор
источник

SancheZz Мов in ML Boot Camp Official
То максимум среди всех семплов врутри фичи это фиг знает что
источник

d

dePuff in ML Boot Camp Official
Я поэкспериментирую с убиранием как-нибудь

Сколько скор давал берт с пулингом правильным?
источник