Можно ли портировать pytorch модель обратно в torch?

тем более если используется huggingface/transformers

можно, ничто не мешает описать модель в "старом" torch и потом конвертировать веса. у huggingface был пост в блоге на эту тему, правда там портировали TF в Pytorch

непонятно правда, зачем это делать

чтобы запускать GPT-2 локально

с которым, кстати, мне так и не помогли

помощь в плане "запилить подобное но для huggingface/transformers" нужна
https://colab.research.google.com/drive/1VLG8e7YSEwypxU-noRNhsv5dW4NfTGce

ничего не понятно.

чтобы была возможность генерить текст локально без вылетов и зависаний модели на менее жирных видеокартах

ну что поделать. если никто не может помочь - надо вооружаться необходимыми знаниями, и решать задачу самостоятельно. не помню толком, что у тебя была за проблема, но помню что это было что-то не очень сложное, и довольно давно

мне нужна базовая обёртка в ipynb под GPT-2

пример выше

"обёртка" - это некорректный в данном случае термин. ну и в чём проблема, собственно? есть пример на колабе, разбери да перепиши, что тебе нужно.

я нихрена не разбираюсь в huggingface/transformers

и в их документации такой же базовой нет

вот документация. https://huggingface.co/transformers/
можно начать с неё, изучить структуру проекта, и задавать уже конкретные вопросы по той или иной проблеме. если не отвечают на конкретные вопросы тут - можно пойти в issues проекта на github, и спросить там. сейчас, между строк, твоя просьба помочь звучит как "я не могу завести GPT-2 на своей машине и не хочу разбираться, напишите за меня код, чтобы всё работало". естественно, мало кто может помочь при такой постановке вопроса.

какой же я непредусмотрительный
https://github.com/huggingface/transformers/issues/3045

нет он не так звучит,
"трэш в вашей документации - КГ/АМ https://github.com/huggingface/transformers/blob/master/examples/run_generation.py, запилите нормальный notebook с минимальным примером"

тыкать во всё подряд и вслепую затирать функции в том недоразумении как-то не хочется