Yuriy Turchin
Всем привет. Задался таким вопросом. Каким образом нейросетки толкают в продакшн? Я имею в виду вот что. На обучении тратится довольно много ресурсов. Требуется видеокарта, время и т.д. Но ведь даже для запуска нейросетки для обычного predict-a уходит также немало мощностей, ведь сетку нужно хранить в оперативной памяти (поправьте, если я ошибаюсь) и еще прогнать по ней данные. Тогда как работают допустим системы слежения на основе сеток, всякие Prisma и другие продукты? Они же установлены на слабых устройствах. Неужели все данные направляют в облако, на мощные сервера и там обрабатываются?
1) ресурсы тратятся на подбор весов, чтобы 100500 раз переколдовать веса, а один проход всегда быстрый. 2) не требуется видеокарта, просто без неё будет медленнее. 3) сеть можно хранить в памяти всю, можно один слой, можно не хранить, это от реализации зависит. 4) призма первой версии была облачной, потом сделали локальную.