SМ
кто-то в чате рассказывал, что использовал GPT3 от сбера, как вы его вообще для классификации варите, у меня какая-то ерунда получается
Это Денис
Size: a a a
2020 November 07
SМ
Воротынцев
2020 November 08
D
кто-то в чате рассказывал, что использовал GPT3 от сбера, как вы его вообще для классификации варите, у меня какая-то ерунда получается
Макс пулинг с эмбединга. Добавление cls токена вообещ не зашло, рок аук около 0.5
SМ
Тот момент когда гпт это декодер
SМ
А юзают как энкодер
SМ
Ну у дэкодера естественно есть эмбеддинги свои
SМ
Макс пулинг с эмбединга. Добавление cls токена вообещ не зашло, рок аук около 0.5
По идее таска гпт как дэкодера это совместимость фраз
SМ
Получается что эмбеддинги с него в принципе можно использовать как тематические
SF
Alexey Tikhonov
Лучше бы ты на финал вккап зарубился😂, там то точно приз 1 хороший был 😜
так я рубился, просто не вышло)
P
Не помню, тут говорили об использовании внешних данных? А то я к норме из каггловского датасета добавила, к матам лебединизмы, угрозам из вк какп, а оскорблениям - обращения одного чела из чатика ко мне.. А сейчас думаю.. а вдруг это не по правилам?
SМ
Не помню, тут говорили об использовании внешних данных? А то я к норме из каггловского датасета добавила, к матам лебединизмы, угрозам из вк какп, а оскорблениям - обращения одного чела из чатика ко мне.. А сейчас думаю.. а вдруг это не по правилам?
Можно
SМ
Там распределение другое
SМ
И перевод кривой
P
Я из русского датасета
SМ
Да он там всё равно кривой
P
Если из разных истчоников.. то скор на выходе такой -же примерно, как без добавления
SМ
Его переводили на яндекс и гугл апи