SS
В английском корпусе не только грамматические ошибки, но и семантические. Причем, по большей части, именно семантические.
Size: a a a
2021 November 10
IS
У нас в русском варианте есть классификация по типам ошибок. Семантические там есть, конечно, но если они не интересуют, можно отфильтровать
ID
а не подскажешь, где можно посмотреть на корпус с семантическими ошибками?
IS
Пока нигде, как Катя написала выше, мы ещё только готовим публикацию. Через пару месяцев зарелизим
ID
спасибо, не увидел сообщение Кати, очень интересно будет посмотреть
SS
Я имел в виду CoLA .
Например: *John was tall, but I don't know on what occasions.*
Грамматически предложение абсолютно корректно.
Например: *John was tall, but I don't know on what occasions.*
Грамматически предложение абсолютно корректно.
ID
что-то я все прочитал по диагонали и не понял, спасибо за разъяснение
SS
Вы совершенно случайно не собираетесь делать точную аннотацию ошибки? Например, что именно не верно с грамматикой?
AN
Прошу Вас продублировать ссылку в чатик. Пожаааалуйста))
IS
Смотря что означает точную. У нас порядка 7 типов ошибок.
ck
Посоветуйте мультиязычную модель для сентиментов из 🤗
ck
Или, если мне нужно решить задачу sentiment analysis на 100 языках одной моделью, где взять датасеты. Не хотелось бы конечно - это долго.
SS
7 типов не кажется достаточным, чтобы описать ньюансы языка …
Проблемы с согласованием, проблемы с управлением, семантическая ошибка …
Вот уже и почти половина всех типов, а ведь в языке есть много разных не сразу заметных ньюансов корректность работы с которыми хотелось бы проверять.
Проблемы с согласованием, проблемы с управлением, семантическая ошибка …
Вот уже и почти половина всех типов, а ведь в языке есть много разных не сразу заметных ньюансов корректность работы с которыми хотелось бы проверять.
DD
Кажется, тональность примерно сохраняется при переводе, поэтому я бы тупо напереводил интересующие тебя датасеты на все языки.
ck
Спасибо. Тоже выход. Если английский и русский еще понятны, то как браться за китайский, или вообще грузинский
ck
Нужно выбрать трансформер. Тестил схожесть предложений на паре языков, лучше всего вышло у sentence-transformers/paraphrase-xlm-r-multilingual-v1, там используется XLMRobertaModel. Что еще посоветуете попробовать?
ck
Глупый вопрос. Прикрутить knn, logreg и подобное поверх векторизатора предложений на трансформерах для классификации - совсем странная идея?
DD
Ваще не странная, постоянно так делаю. Для few-shot классификации коротких текстов, кажется, вообще ничего лучше, чем sentence encoder + knn, человечество так и не придумало.
ck
То что нужно в конце дня)
2021 November 11
AG
друзья, есть ли у кого веса русского longformer ?