TOPS, TFLOPS разница, как понять сколько нужно?

Question

[koshelevatamila4741]

1) Как сравнивать TOPS параметр таких модулей специально созданных для систем машинного зрения и, например, параметр TFLOPS видеокарты 8 TOPS и FP32 (float) 3.920 TFLOPS, как понять насколько одна железка быстрее будет выполнять классификацию, изображений чем, если бы, использовалась обычная дискретная видеокарта.
2) Как выбирать подходящее железо для работы моделей машинного обучения? например, хочется установить где-нибудь, например, на улице (как камера определяющая скорость автомобилей), камеру и с помощью неё распознавать разные дефекты дороги (ямы, трещины и т.д.), как правильно выбирается железо в таких случаях? есть же разные TPU, NPU, GPU что-то дешевле, что-то дороже, как понять какое устройство будет работать быстро, с минимальным количество ошибок и вообще, сколько нужно "мощности" какой-то конкретной модели, понять какое устройство лучше купить, загрузить модель и использовать?

Comments

[mayton2019]

Флопсы это - как объем двигателя. Сообщаяет сколько там внутри может гореть бензина.

Но применительно к твоей задаче лучше опираться на сравнительный опыт. Тоесть к примеру
есть уже разработанная система. Например на базе TPU. Стоит столько-то. И работает хорошо
и без задержек.

Вот как-то так. И сравнение двух систем будет не сравненим двух чисел а на самом деле сравнением
двух векторов чисел. Одна система на будет сильна в обучении. Другая в работе уже обученной модели
и так далее.