what language are you talking about?

Форклоу? А как это по английски?

Я сейчас смотрю spacy и prodigy, но не знаю, поможет он мне или нет.

I have a question regarding text pre processing:

1. Anyone have list to contranst lemmetisation and stemming  from different libraries  like NLTK , spacy , keras.preprocessing and others  .

2 . How should we decide that which tool will be best suited for the task  

3. Does working with deep learning models require preprocessing ?( I am still new to seq2seq models Any certain practices to keep in mind for the above said task .


thank you.

for English language .

сорян. воркфлоу. workflow. ну короче "алгоритм"

any language ,The paper about Arabic but I want to understand this for any language

I guess you speak about this article: https://www.sciencedirect.com/science/article/abs/pii/S0306457316305623

So, I see authors use tool named AraNLP

I am reading the same paper but because I dont have good background I dont know how the converting the features to numbers

Thank you a lot and I am sorry for the annoying 🙈

Ok. I got it.
I think you need to read something fairly basic. This raises the question of which pipeline you want to use. Roughly speaking, shallow models or transfer learning... Although, probably, in both cases, features will need to be encoded using OHE. I'll try to find some tutorial now.

Yes This what I want thank you

Доброе утро, возник такой вопрос:
насколько возможно вообще в принципе на сегодняшний день сделать реплику GPT-3 (для не дата саентистов)?
Вот на примере второго https://blog.usejournal.com/opengpt-2-we-replicated-gpt-2-because-you-can-too-45e34e6d36dc

вопрос в доступности алгоритмов или железа? 🙂

тобишь сделать реплику приемлимой золотой середины между 13B и 175B

всего вышеперечисленного

алгоритмы они вроде бы не меняли, архитектура открытая, они просто настакали слоев еще больше и контекст расширили

а железо... вопрос в бюджете ¯\_(ツ)_/¯

было бы у меня столько денег, сколько у них, наверное, я бы тоже gpt3 от скуки тренил