MB
ну я думал в районе 50к
Size: a a a
2021 December 06
d
Для Gpt верю
MB
сколько вы думаете нужно для Т5?
d
ну t5 в оригинале вроде бы тоже дообучался и на downstream задачи, так что ему вполне может хватить если не 500, то нескольких тысяч уж точно
TM
Скорее даже тупее)) "$Привет" -> "$Привет" так как чистка токенов реализована дальше нативными методами строк python)) Просто токенайзер разбивает "$Привет" на 2 токена (префикс $ +Привет) . А нужен 1 токен с "$Привет". Я сейчас гляжу и более человеческий вариант видимо тот о котором, кажется ты пытаешься рассказать. использовать методы токенов. вроде isalpha или кастомный экстеншн
d
Я думаю нужно начать учить и решать сначала возникающие проблемы, а потом биться за нужное качество
KS
У меня на 2-3к норм взлетало
🐙
Я скорее хотел упомянуть, что в spaCy недеструктивные преобразования, и очистить от лишних токенов методами библиотеки не выйдет. Зато можно заменить токенизатор на свой, это нормально и поддерживается.
TM
да, с этим тезисом тоже сейчас ознакомился, спасибо
DD
По-моему, здесь играет роль, какую именно T5 дообучать.
Если брать гугловскую англоязычную T5 или мою русскую multitask, то они действительно видели десятки задач, и на новые обобщаются довольно быстро.
А если брать гугловскую мультиязычную T5, или сберовские русские T5 "как есть", то они обучались только на MLM, и другие задачи схавывают не сразу.
Если брать гугловскую англоязычную T5 или мою русскую multitask, то они действительно видели десятки задач, и на новые обобщаются довольно быстро.
А если брать гугловскую мультиязычную T5, или сберовские русские T5 "как есть", то они обучались только на MLM, и другие задачи схавывают не сразу.
d
Я когда-нибудь поработаю с чат-ботиками, да )
d
Они как раз к тому времени никому не нужны будут)
d
В общем слушай тех, кто подобное делал
По сути, к отвечалке действительно требований не много.
Грамотное предложение в тему и ок.
По сути, к отвечалке действительно требований не много.
Грамотное предложение в тему и ок.
MB
Всем спасибо!
VS
Добрый день всем! Вопрос по pullenti, что сейчас актуально для работы с последней версией для python? Клиент+сервер или библиотека есть? И есть ли какие-то примеры, поскольку на оф. сайте всё под обертку с C#.
KS
Есть либа
VS
https://pypi.org/project/pullenti/ если вот эта, то есть ли к ней какие-то примеры и инструкции?
KS
На офф сайте есть примеры под питон в том числе
χλ
Не писал несколько лет, врываюсь с вопросом странном