Как интерпретировать значения FLOPs модели ML и FLOPS различных устройств (snapdragon процессор, например), GPU?

Question

[koshelevatamila4741]

Обучила модель для классификации изображений, с помощью метода узнала количество FLOPs (112148696 ~ 112 MFLOPs).
На сайте нашла информацию:
GTX 960: FP32 (float) 2.413 TFLOPS
На вики и во многих других сайтах написано, что:
Snapdragon 888 Adreno 660 840 MHz (1720.3 GFLOPs in FP32)
1) Получается мобильные GPU уже приблизились к десктопным вариантам 2015 года при намного меньшем энергопотреблении?
2) Если MFLOPs (сколько операций требуется для одного инференса) модели 112 MFLOPs, а Snapdragon 888 = 1720 GFLOPs, то, теоретически на Snapdragon 888 можно обработать за тот же момент времени 1720 000 / 112 = 15 357 изображений?

Comments

[pfg21]

почему бы и нет. технологии сейчас растут жутчайшими темпами :)

[Zerg89]

Snapdragon 888 Machine learning 59.9 images/s
Для gtx960 таких данных не нашел

Answer 1

[rPman]

при намного меньшем энергопотреблении?

не совсем, в режиме вычислений, либо мобильный чип проработает недолго и понизит скорость кратно из-за повышения температуры, либо не хватит питания. А так да, 8 лет разницы дают знать, энергопотребление на единицу вычислений упало на порядок.

p.s. Китайцы делают франкенштейнов, заворачивают мобильные чипы в корпус-переходник и продают как дешевые десктопные процессоры (само собой разблокировав там лимиты по питанию и температуре).
-----------

К сожалению помимо FLOPS железа нужно смотреть еще и на софт, умеет ли он оптимально использовать мощности оборудования, и есть ли у него такая возможность в принципе (да, смартфоны могут быть очень мощными устройствами но доступ ко всей этой мощи может быть ограничен функционалом игр)

Answer 2

[freeExec]

Это просто техническая характеристика, наподобие лошадиных сил, полученная математически некими расчётами. Вроде у нас уходит столько-то время уходит на одну операцию, столько-то операций у нас выполняется в секунду и вот столько-то агрегатов у нас в изделии. Удобно чтобы мерят. Максимальный теоретический предел никогда в жизни в практике не достижимый.