да, потому что мне необходимо, чтобы текст разметили на русском, но еще и на английском, французском, немецком и нескольких других европейских языках. В документах к Толоке я пока не нашел точных цифр, но мне показалось, что у них разметчики из разных стран есть. Но если их совсем мало, то да, это может быть препятствием.

Совсем мало - понятие относительное :) Они есть, это правда. Но в МТурке, думаю, лучше представлены, хотя не работал с ней.

С другой стороны, мне тексты не в промышленных масштабах размечать надо, скажем, текстов 50 на каждый язык. В общем, надо разбираться, я понял)

А какие тексты нужны?

Какой домен?

В основном это новости на разных языках.

Как минимум можно взять вики, субтитры и новости

Ну тогда датасет old news

Ща скину

t.Language.unique()

[5]:
array(['Afrikaans', 'Albanian', 'Amharic', 'Arabic', 'Armenian',
       'Azerbaijan', 'Bengali', 'Bosnian', 'Catalan',
       'Chinese (Simplified)', 'Chinese (Traditional)', 'Croatian',
       'Welsh', 'Czech', 'German', 'Danish', 'English', 'Spanish',
       'Spanish (South America)', 'Finnish', 'French', 'Georgian',
       'Galician', 'Greek', 'Hebrew', 'Hindi', 'Hungarian', 'Icelandic',
       'Indonesian', 'Italian', 'Japanese', 'Khmer', 'Kannada', 'Korean',
       'Kazakh', 'Lithuanian', 'Latvian', 'Macedonian', 'Malayalam',
       'Mongolian', 'Malay', 'Nepali', 'Dutch', 'Norwegian (Bokmal)',
       'Punjabi', 'Farsi', 'Polish', 'Portuguese (Brazil)',
       'Portuguese (EU)', 'Romanian', 'Russian', 'Serbian', 'Sinhalese',
       'Slovak', 'Slovenian', 'Swahili', 'Swedish', 'Tamil', 'Telugu',
       'Tagalog', 'Thai', 'Turkish', 'Ukranian', 'Urdu', 'Uzbek',
       'Vietnamese'], dtype=object)

@olegpolivin пойдёт?)

хаха :) это прекрасно!

Welcome

Товарищи а кто нибудт файнтюнил ругпт на суммаризацию? Какая структура обучающего сета?  Что я делаю не так?

Всё так, а в контекст пример целиком помещается?

Да

А какая проблема возникает?

Я делал симплификацию и генерацию вопросов, и fine-tuning на 2 эпохах с дефолтными настройками на нескольких тысячах примеров, поданных в похожем формате, было достаточно для приемлемого качества