

Нейросеть обучена с использованием фреймворка GPT-NeoX на графических процессорах компании CoreWeave. Разработчики заявили, что GPT-NeoX-20B является крупнейшей общедоступной предобученной авторегрессионной языковой моделью общего назначения.
🔎 По данным EleutherAI, алгоритм выдает высокие показатели при решении тестовых задач по сравнению с аналогичными нейросетями. GPT-NeoX-20B достигла 71,98% точности на датасете LAMBADA, уступив только модификации GPT-3 DaVinci от OpenAI с 75,16% точности.
#EleutherAI #разработка
















