V
в обучающей выборке было два варианта для одного интента, на выходе 100% один и тот же
Я делал тоже на seq2seq нечто похожее, только в стиле вопрос-ответ. Забросил как раз из-за того, что модель выучивает только один вариант ответа из нескольких
Size: a a a
2019 December 27
V
Там была связка word2vec и attention seq2seq
D(
модель взял готовую из examples из keras
Попробуй ещё вот такой вариант.
Это не seq2seq, а как раз генерация текста по интенту плюс готовым слотам, которые можно туда подставлять. Ну и декодинг даже не beam search, а просто жадный пословный (но следит, чтобы несуществующие слоты не использовались).
Даже на игрушечных данных (ATIS) получается довольно разнообразно генерировать.
Это не seq2seq, а как раз генерация текста по интенту плюс готовым слотам, которые можно туда подставлять. Ну и декодинг даже не beam search, а просто жадный пословный (но следит, чтобы несуществующие слоты не использовались).
Даже на игрушечных данных (ATIS) получается довольно разнообразно генерировать.
A
то есть у меня идея примерно такая - человек пишет текст. Модель на основе flair его анализирует и переводит в "язык для бота" - жсон с кучей данных. Дальше уже обычный код думает, как на это ответить, отдает обратно жсон и мне надо из этого сгенерить человеческий овтет
V
то есть у меня идея примерно такая - человек пишет текст. Модель на основе flair его анализирует и переводит в "язык для бота" - жсон с кучей данных. Дальше уже обычный код думает, как на это ответить, отдает обратно жсон и мне надо из этого сгенерить человеческий овтет
Выглядит как самописная rasa core + nlu)
D(
то есть у меня идея примерно такая - человек пишет текст. Модель на основе flair его анализирует и переводит в "язык для бота" - жсон с кучей данных. Дальше уже обычный код думает, как на это ответить, отдает обратно жсон и мне надо из этого сгенерить человеческий овтет
Ага, идея очень здравая. Кажется, что если всё в порядке с обучающими данными, должно полететь)
D(
Выглядит как самописная rasa core + nlu)
и nlg же как раз
V
На базе rasa довольно хорошие чат-боты получаются
A
но размер модели
A
обучающие данные я готов на первых порах вообще сам руками сгенерить - для человеческого текста уже сделал это через RiveScript
D(
На базе rasa довольно хорошие чат-боты получаются
А как ты русский язык к rasa лепишь?
V
Нуу, физически - меньше 1-2мб, если данных не много. В оперативе - зависит от того, какие обработчики вы будете использовать. Spacy занимает примерно 3Гб оперативы, при этом там может быть довольно много разных моделей. Если nlu будет внешним сервисом, а для классификации интентов использовать какой-нибудь crf, то меньше 1гб
A
когда пробовал rasa, использовал английский
A
а сейчас - на flair - на русском нормально
V
А как ты русский язык к rasa лепишь?
Лез в код nlu, добавил лемматизацию и ещё пару вещей, а сам русский nlu висит внешним отдельным сервисом
Работает вполне хорошо)
Работает вполне хорошо)
A
модель flair, которая вроде делает все, что мне надо для анализа, весит мегов 15
A
а, нет, там еще нет sentiment analysis
V
Вы свою модель для русского делали или готовую нашли?
V
а, нет, там еще нет sentiment analysis
Да, этого нету
A
ну в смысле я не прикрутил. Я взял flair, сделал language model, натренил ее на яндексовском датасете