Господа нужен совет\подсказка. Собрал систему из области cv,  детектирует и классифицирует объекты. рабочую версию на 1 видеопоток тестили просто на цпу. А тут заказчик выкатил новую идую чтоб дали ему рекомендацию какой ГПУ ему купить чтоб прога работала на 10 видеопотоков при заданном фпс. Как оценить?
У меня тз данных есть только скорость обучения используемых сеток на разных ГПУ.
Как блин вообще оценивать хардварные требования? перебором арендовать и тестить????))

Можно попробовать запустить в колабе. И посмотреть...

Хороший совет. Мы так один раз с заказчиком граничные параметры железа утрясали

или аренда, или оценить грубо вычислительную мощность в у.е. по бенчмаркам, сравнить с эталонной некоторой "вашей" и вывести коэффициент при имеющейся нагрузке и затрачиваемой памяти, условно считая, что каждый независимый поток потребляет столько же условно столько же мощности и памяти.
Еще вариант перейти на простейшие операции и их количество, и скорость их выполнения.
либо смотреть на похожие функциональные примеры

Что такое простейшие операции?

блин у меня 4 нейронки разных, устану тут считать по операциям.

умножение/деление/т.п.

А что так можно было?

у нас не прошло, вьедливый :( был ...

Самый незапаривательный колаб или альтернатива, либо похожая архитектура и ее производиьельность в подобной задаче. На грубую прикидку

Нейронные сети это же умножение

кнчн

а чем идея с колаб не подходит?

Ну, его можно понять😁

начал деплоить)) но вдруг еще идеи есть

нетолько лишь + зависит от вашей задачи все же

Сам принцип нейронок это перемножение сигнала на коэффициенты связи.

кстати, прогони с TPU, у нас в конечном итоге была собрка с TPU.
на свою голову показали, тогда.

Но опыт возни с ними был бесценный ...

С точки зрения расчётов нейронки не отличаются от любого другого метода решающих деревьев или расчёт соседей.

да, можно так оценивать. Но это если у заказчика есть адекватный техперсонал, который понимает о чем вы говорите ;)

а когда там живот мешает рубашке сходиться ... ой