I
Фу. Что за выбор слов? "Сиська", "подлизали"? Зачем это?
Size: a a a
2020 July 15
t
вопрос лишь в том, что это совершенно не имеет смысла. предобученная модель настолько огромна, что не влезет на консюмерское железо
D
Фу. Что за выбор слов? "Сиська", "подлизали"? Зачем это?
Как бы не слишком завуалировано и недалеко от истины
I
Сорян, короче. Неинтересно так разговаривать.
t
а обучить с нуля "студенту без денег" нельзя никак
t
если вы рассчитываете, что есть какой-то секретный способ "прокачать gpt2 до gpt3", то нет, его нету
D
вопрос лишь в том, что это совершенно не имеет смысла. предобученная модель настолько огромна, что не влезет на консюмерское железо
так и не нужно как бы, есть ipynb - используй ipynb
t
ааа, мсье тролль? пардон, я сразу не понял
CT
если вы рассчитываете, что есть какой-то секретный способ "прокачать gpt2 до gpt3", то нет, его нету
взять самую маленькую гпт3 (весов которой один фиг еще нет)
A
а обучить с нуля "студенту без денег" нельзя никак
Т.е на создании чат-бота вроде реплики нужно очень много денег?
t
взять самую маленькую гпт3 (весов которой один фиг еще нет)
gpt3 имеет другой размер контекста, веса несовместимы
D
ааа, мсье тролль? пардон, я сразу не понял
Значит говорить как есть нынче троллинг, или просто кто-то сильно параноит
t
Т.е на создании чат-бота вроде реплики нужно очень много денег?
внезапно, да?
t
Значит говорить как есть нынче троллинг, или просто кто-то сильно параноит
ну, я не думаю, что вы не понимаете, что такое ipynb
t
поэтому ваша фраза "зачем загружать модель на gpu, ведь можно просто запустить ее в жупутере" - это троллинг чистой воды
CT
gpt3 имеет другой размер контекста, веса несовместимы
ну я не думаю что сильно проблемно написать скелет модели, чтобы там все совместимо было
D
ну, я не думаю, что вы не понимаете, что такое ipynb
я работаю с colab и понимаю формат jupyter notebook
t
ну я не думаю что сильно проблемно написать скелет модели, чтобы там все совместимо было
и смысл? совместимая модель называется gpt2
D
поэтому ваша фраза "зачем загружать модель на gpu, ведь можно просто запустить ее в жупутере" - это троллинг чистой воды
тут не это имеется в виду, зачем загружать вообще модель на жёсткий диск и считать её на локальном пк, если можно тупо запустить её в colab или другой совместимой платформе
t
я работаю с colab и понимаю формат jupyter notebook
отличный шаг вперед. теперь подумайте о том, что ваши нотебуки не выполняются волшебным образом. когда вы запускаете нотебук на колабе, гугл выделяет вам инстанс виртуалки с видеокартой, проброшенной через pci passthrough из своего пула железных серверов