Size: a a a

Natural Language Processing

2019 December 25

AS

Alex Surname in Natural Language Processing
может я отвечу
источник

D

Den in Natural Language Processing
Den
1. какая самая лёгкая библиотека для тренировки и работы с GPT-2?
.
источник

AS

Alex Surname in Natural Language Processing
это не принципиальный вопрос, они все +- сравнимы и это не библиотека, а скрипты питоновские
источник

D

Den in Natural Language Processing
ты не не прав
источник

AS

Alex Surname in Natural Language Processing
то что я вижу все базируются на том что я скинул выше
источник

AS

Alex Surname in Natural Language Processing
один чувак портировал на тпу
источник

AS

Alex Surname in Natural Language Processing
но тпу себя плохо показал
источник

AS

Alex Surname in Natural Language Processing
Den
ты не не прав
ты что пробовал?
источник

D

Den in Natural Language Processing
отвратительнейшие huggingface transformers(+pytorch), TF
источник

AS

Alex Surname in Natural Language Processing
у тебя есть реализации не на TF?
источник

AS

Alex Surname in Natural Language Processing
по-моему сам openai использует TF
источник

AS

Alex Surname in Natural Language Processing
про трансформеры вообще не понял, это ведь агрегатор
источник

D

Den in Natural Language Processing
наверное появится на gpt-2-simple если он не зависит ни от одного, ни от другого
источник

AS

Alex Surname in Natural Language Processing
и там кода обучения насколько я помню нет, только использование
источник

D

Den in Natural Language Processing
а это уже
2. как именно написать скрипт для тренировки/файнтюна модели?
источник

D

Den in Natural Language Processing
я лично сам ннп
источник

D

Den in Natural Language Processing
не с одним файлом на вход (txt), а несколькими, без форматирования, тупо голый текст
источник

AS

Alex Surname in Natural Language Processing
источник

AS

Alex Surname in Natural Language Processing
Den
а это уже
2. как именно написать скрипт для тренировки/файнтюна модели?
эти скрипты уже написаны, я тебе скинул ссылку на мануал как их запускать
источник

AS

Alex Surname in Natural Language Processing
https://github.com/minimaxir/gpt-2-simple
здесь нет скриптов для обучения
источник