I
Пока надо понять, как сделать одну)
Нанять фрилансера
Size: a a a
2020 July 22
I
Хотя одну надо самому написать
AI
Коллеги, а как бы вы в теории решили задачу при которой необходимо заполнять «промежутки» истории, у которой есть начало, середина и конец, а не генерировать её как у GPT с неизвестным результатом? Может есть такие решения уже, мне не известные?
Хм, самое простое, но коряво работающее, что приходит в голову - использовать BERT
CT
Коллеги, а как бы вы в теории решили задачу при которой необходимо заполнять «промежутки» истории, у которой есть начало, середина и конец, а не генерировать её как у GPT с неизвестным результатом? Может есть такие решения уже, мне не известные?
звучит как задача для неавторегрессионных трансформеров
SP
Я думаю, что по сути, это единственная реальная задача, которая стоит перед «генераторами текста» - «выстраивание маршрута». С точки зрения языка, то, что они сейчас генерируют это, по сути, даже и не текст.
DK
Привет коллеги! Появилась идея токенизировать текст по слогам, кто то такое уже делал? Какие нюансы могут быть? Хочу решить задачку распознавания по разному сокращенных слов.Чтобы восстановить полные формы слов.
A
Dmitri Kapustin
Привет коллеги! Появилась идея токенизировать текст по слогам, кто то такое уже делал? Какие нюансы могут быть? Хочу решить задачку распознавания по разному сокращенных слов.Чтобы восстановить полные формы слов.
Посмотри в pymorphy2 в доках. Там они объясняют как им удаётся делать небольшого объема словарь
DK
Посмотри в pymorphy2 в доках. Там они объясняют как им удаётся делать небольшого объема словарь
🙏 Спасибо
2020 July 23
I
ребят, а кто-нибудь сталкивался с материалами на русском про DRT и SDRT?
https://en.wikipedia.org/wiki/Discourse_representation_theory
что-то ничего прям не попадается
https://en.wikipedia.org/wiki/Discourse_representation_theory
что-то ничего прям не попадается
YB
ребят, а кто-нибудь сталкивался с материалами на русском про DRT и SDRT?
https://en.wikipedia.org/wiki/Discourse_representation_theory
что-то ничего прям не попадается
https://en.wikipedia.org/wiki/Discourse_representation_theory
что-то ничего прям не попадается
какие-то части есть в других теориях и моделях, но напрямую работ по "(когнитивному) моделированию сцены", как я это называю, я нигде не видел. да и английское DRT я до этого не видел — тоже редкий зверь, видимо.
в bAbI есть ответ на вопрос о состоянии сцены после описания, вопросы есть и в squad (и можно сформулировать их в виде вопросов "где такой-то сейчас, что такой-то делает сейчас, итп — т.е. породить описание сцены через вопросы). Но полного составления когнитивной модели не происходит в других задачах/датасетах.
в bAbI есть ответ на вопрос о состоянии сцены после описания, вопросы есть и в squad (и можно сформулировать их в виде вопросов "где такой-то сейчас, что такой-то делает сейчас, итп — т.е. породить описание сцены через вопросы). Но полного составления когнитивной модели не происходит в других задачах/датасетах.
I
не уверен, что понял про сцену(
я согласен, что не самый популярный фреймворк, но на английском хоть упоминают. правда вероятно в основном французы)) но все же. а вот на русском для дискурса только обсуждения RST вижу.
я согласен, что не самый популярный фреймворк, но на английском хоть упоминают. правда вероятно в основном французы)) но все же. а вот на русском для дискурса только обсуждения RST вижу.
КМ
Всем привет, никто не знает как named entity recognition в SpaCy делать для русского языка? Просто самой модели языка в библиотеке нет, только stanza. Но если брать модель русского языка из нее, то она почему-то не хочет обучаться и выдает ошибку 😞
Обучил без языковой модели, вроде нормально, но не учитывает, например, если напишу слово "нижняя", т.к. в обучающем датасете было только "нижнюю"
Или для русского языка лучше использовать DeepPavlov, если мне нужны кастомные сущности?
Обучил без языковой модели, вроде нормально, но не учитывает, например, если напишу слово "нижняя", т.к. в обучающем датасете было только "нижнюю"
Или для русского языка лучше использовать DeepPavlov, если мне нужны кастомные сущности?
RB
Я сам не успел ещё , но думаю можно обучать модель в станзе, а потом импортировать в Спейси через обёртку. Так пробовал делать?
YB
Всем привет, никто не знает как named entity recognition в SpaCy делать для русского языка? Просто самой модели языка в библиотеке нет, только stanza. Но если брать модель русского языка из нее, то она почему-то не хочет обучаться и выдает ошибку 😞
Обучил без языковой модели, вроде нормально, но не учитывает, например, если напишу слово "нижняя", т.к. в обучающем датасете было только "нижнюю"
Или для русского языка лучше использовать DeepPavlov, если мне нужны кастомные сущности?
Обучил без языковой модели, вроде нормально, но не учитывает, например, если напишу слово "нижняя", т.к. в обучающем датасете было только "нижнюю"
Или для русского языка лучше использовать DeepPavlov, если мне нужны кастомные сущности?
вот тут есть пример: https://github.com/buriy/active_ner/blob/master/anno/trainer.py
YB
Всем привет, никто не знает как named entity recognition в SpaCy делать для русского языка? Просто самой модели языка в библиотеке нет, только stanza. Но если брать модель русского языка из нее, то она почему-то не хочет обучаться и выдает ошибку 😞
Обучил без языковой модели, вроде нормально, но не учитывает, например, если напишу слово "нижняя", т.к. в обучающем датасете было только "нижнюю"
Или для русского языка лучше использовать DeepPavlov, если мне нужны кастомные сущности?
Обучил без языковой модели, вроде нормально, но не учитывает, например, если напишу слово "нижняя", т.к. в обучающем датасете было только "нижнюю"
Или для русского языка лучше использовать DeepPavlov, если мне нужны кастомные сущности?
чтобы модель понимала разные формы слов, тебе нужны вектора (или одинаковая лемматизация). в том примере есть как раз fasttext вектора.
встроенные вектора будут в релизе 2.3, можно взять модель https://github.com/buriy/spacy-ru/releases/tag/v2.3_pre1 , там уже есть вектора.
используй spacy.load('ru2_syntagrus') , т.к. они что-то там поменяли в лемматизаторе в v2.3 и надо апдейтить кастомный лемматизатор.
встроенные вектора будут в релизе 2.3, можно взять модель https://github.com/buriy/spacy-ru/releases/tag/v2.3_pre1 , там уже есть вектора.
используй spacy.load('ru2_syntagrus') , т.к. они что-то там поменяли в лемматизаторе в v2.3 и надо апдейтить кастомный лемматизатор.
КМ
Я сам не успел ещё , но думаю можно обучать модель в станзе, а потом импортировать в Спейси через обёртку. Так пробовал делать?
Нет, в стензе только сами модели языков.
КМ
чтобы модель понимала разные формы слов, тебе нужны вектора (или одинаковая лемматизация). в том примере есть как раз fasttext вектора.
встроенные вектора будут в релизе 2.3, можно взять модель https://github.com/buriy/spacy-ru/releases/tag/v2.3_pre1 , там уже есть вектора.
используй spacy.load('ru2_syntagrus') , т.к. они что-то там поменяли в лемматизаторе в v2.3 и надо апдейтить кастомный лемматизатор.
встроенные вектора будут в релизе 2.3, можно взять модель https://github.com/buriy/spacy-ru/releases/tag/v2.3_pre1 , там уже есть вектора.
используй spacy.load('ru2_syntagrus') , т.к. они что-то там поменяли в лемматизаторе в v2.3 и надо апдейтить кастомный лемматизатор.
Спасибо, я натыкался на эту репу, спугнула сложность установки, надо было быстро, плаг энд плей, так сказать. Попробую.
YB
не уверен, что понял про сцену(
я согласен, что не самый популярный фреймворк, но на английском хоть упоминают. правда вероятно в основном французы)) но все же. а вот на русском для дискурса только обсуждения RST вижу.
я согласен, что не самый популярный фреймворк, но на английском хоть упоминают. правда вероятно в основном французы)) но все же. а вот на русском для дискурса только обсуждения RST вижу.
идея такая: создатель художественного произведения описывает действия, которое происходит на (виртуальной) сцене (в голове человека). нужно: знать то, что сейчас происходит на сцене, какие субъекты и объекты там есть, как выглядят и что они делают.
теперь буду знать, как в литературе по ИИ такой подход называют.
теперь буду знать, как в литературе по ИИ такой подход называют.
I
идея такая: создатель художественного произведения описывает действия, которое происходит на (виртуальной) сцене (в голове человека). нужно: знать то, что сейчас происходит на сцене, какие субъекты и объекты там есть, как выглядят и что они делают.
теперь буду знать, как в литературе по ИИ такой подход называют.
теперь буду знать, как в литературе по ИИ такой подход называют.
Это какая-то личная метафора? Или она широко используется?