SМ
Stanislav Demchenko
вы какие-то слоупоки. Дима уже даже на РБК недавно засветился 😁
Главное не ослоупки
Size: a a a
2020 December 08
JS
Главное не ослоупки
вот да
АС
Вопрос к знатокам из разряда стоит ли пытаться.
В общем есть затея, как мне когда-то предлагали(может это и есть то что мне предлагали, просто я не понял), вычислять эмбиндинги текста по предложениям, потом вопроса по предложениям, и далее ответа. Дальше пропускать полученное через полносвязку(дополнив нулями если не хватает по длине) и делаем бинарную классификацию верный или нет ответ. Насколько это является человеческим решением?
В общем есть затея, как мне когда-то предлагали(может это и есть то что мне предлагали, просто я не понял), вычислять эмбиндинги текста по предложениям, потом вопроса по предложениям, и далее ответа. Дальше пропускать полученное через полносвязку(дополнив нулями если не хватает по длине) и делаем бинарную классификацию верный или нет ответ. Насколько это является человеческим решением?
SD
звучит как GPT курильщика. но я не настоящий сварщик
SМ
Вопрос к знатокам из разряда стоит ли пытаться.
В общем есть затея, как мне когда-то предлагали(может это и есть то что мне предлагали, просто я не понял), вычислять эмбиндинги текста по предложениям, потом вопроса по предложениям, и далее ответа. Дальше пропускать полученное через полносвязку(дополнив нулями если не хватает по длине) и делаем бинарную классификацию верный или нет ответ. Насколько это является человеческим решением?
В общем есть затея, как мне когда-то предлагали(может это и есть то что мне предлагали, просто я не понял), вычислять эмбиндинги текста по предложениям, потом вопроса по предложениям, и далее ответа. Дальше пропускать полученное через полносвязку(дополнив нулями если не хватает по длине) и делаем бинарную классификацию верный или нет ответ. Насколько это является человеческим решением?
Изобретая dssm
SМ
Так давно уже делают
SМ
Советую почитать про Палех/Королёв, про диалоговые системы и поиск на сетках
SМ
SМ
Stanislav Demchenko
звучит как GPT курильщика. но я не настоящий сварщик
Гпт это генерация текста, бро
SМ
А тут аля найти лучший ответ для вопроса+контекст
АС
Гпт это генерация текста, бро
Я кстати пытался для гпт разметить датасет, но ничего не вышло дельного
GE
Гпт это генерация текста, бро
Ну ты говорил же, что если правильно приготовить то эмбединги GPT можно для классификации использовать. Разве нет?
SМ
Ну ты говорил же, что если правильно приготовить то эмбединги GPT можно для классификации использовать. Разве нет?
Не я
SМ
Но использовать можно
SМ
А может и я
SМ
Но юзал их @dvrenergy
SМ
Ну ты говорил же, что если правильно приготовить то эмбединги GPT можно для классификации использовать. Разве нет?
Чеб не берт и тп?
SМ
Всех тянет на посложнее
D
У меня работатл гпт3 нормально в бинарной классификации. Гпт3 как бэкбоун, макс/авг пулинг, пара денс слоев. Если добавлять свои токены или добавлять cls токен и брать выход с него, то все ломалось
DR
Вопрос к знатокам из разряда стоит ли пытаться.
В общем есть затея, как мне когда-то предлагали(может это и есть то что мне предлагали, просто я не понял), вычислять эмбиндинги текста по предложениям, потом вопроса по предложениям, и далее ответа. Дальше пропускать полученное через полносвязку(дополнив нулями если не хватает по длине) и делаем бинарную классификацию верный или нет ответ. Насколько это является человеческим решением?
В общем есть затея, как мне когда-то предлагали(может это и есть то что мне предлагали, просто я не понял), вычислять эмбиндинги текста по предложениям, потом вопроса по предложениям, и далее ответа. Дальше пропускать полученное через полносвязку(дополнив нулями если не хватает по длине) и делаем бинарную классификацию верный или нет ответ. Насколько это является человеческим решением?
Андрей, ты же выиграл уже в конкурсе, что ты ещё мучаешь гпт))