АС
Гпт должен быть ок, ток варить над уметь
И как бы вы кормили бы ему всё?
Size: a a a
2020 November 27
SМ
Я не мастер гпт:(
SМ
Сорян
SМ
Есть статья жеж
АС
Хммм, буду благодарен если оставить ссылочку, если это не та самая от сбера
SМ
Хммм, буду благодарен если оставить ссылочку, если это не та самая от сбера
От сбера
SМ
Я свежего боле не помню
АС
Ну да, они как третью гпт выкатили, сразу статью и в aij задание на использование её
GE
Ну да, они как третью гпт выкатили, сразу статью и в aij задание на использование её
А что за статья?
IG
Ну там как учить gpt имеет значения, может спец токенами оборачивать текст, и текст вопроса
IG
А надо именно правильный ответ или нет?
АС
А надо именно правильный ответ или нет?
Да
IG
А если сделать какую нить сиамскую/триамскую сеть, тоесть три условных берта, на вход одному текст, второму вопрос, третьему ответ, выходы всех конкатенируются, и преобразовываются в вероятность того, что ответ верный
IG
И всё учить на парах текст/ правильный ответ, текст/неправильный ответ
АС
Пошёл гуглить, но звучит работоспособно, правда надо разобраться хотя бы с одним Бертом, а потом пересчитать про их объединение
АС
А если сделать какую нить сиамскую/триамскую сеть, тоесть три условных берта, на вход одному текст, второму вопрос, третьему ответ, выходы всех конкатенируются, и преобразовываются в вероятность того, что ответ верный
То есть на выход бертам сажаем полносвязную сеть которая байт выход 0 или 1?
IG
Посмотри sbert, там сиамский Берт который на парафразах учится
IG
То есть на выход бертам сажаем полносвязную сеть которая байт выход 0 или 1?
Ну выходы бертов соединить, и через полносвязный слой с выходом 1, ну кажется что в этом есть смысл)
IG
Опять же можно взять один Берт, текст вопрос ответ оборачивать в спец токены, и все опять сводить к выходу 1
АС
Етить, я дурак... Я даже не пытался оборачивать в токены вопрос и ответ... Просто писал "вопрос: " "ответ: " похоже это сыграло свою роль...