TensorFlow 2.0 GPU Win10 GTX1050Ti почему медленней CPU?

Question

[kiling]

Ноутбук MSI GL83 8RD
CPU i7-8750H
GPU GTX 1050 Ti
ОЗУ 16гб
Windows 10
TensorFlow 2.0, tensoflow-gpu, cuda.
Почему обучение на моей GTX 1050 Ti раза в 2 или 3 медленней чем на CPU? Пробовал по разному и устанавливал tensorflow 2.0 и 2.1, даже собирал из исходников один результат.
Я что то не так делаю, или так и должно быть??

Answer 1

[Владимир Коротенко]

Я бы посмотрел подробный отчёт в логах. Там есть метрики и уже после этого можно делать выводы. Куда сдк установлен?

Comments

[kiling]

Логи эти?

2020-02-19 19:22:19.791796: I tensorflow/stream_executor/platform/default/dso_loader.cc:44] Successfully opened dynamic library cudart64_101.dll
2020-02-19 19:22:21.539226: I tensorflow/stream_executor/platform/default/dso_loader.cc:44] Successfully opened dynamic library nvcuda.dll
2020-02-19 19:22:22.387810: I tensorflow/core/common_runtime/gpu/gpu_device.cc:1618] Found device 0 with properties: 
name: GeForce GTX 1050 Ti major: 6 minor: 1 memoryClockRate(GHz): 1.62
pciBusID: 0000:01:00.0
2020-02-19 19:22:22.394794: I tensorflow/stream_executor/platform/default/dlopen_checker_stub.cc:25] GPU libraries are statically linked, skip dlopen check.
2020-02-19 19:22:22.399848: I tensorflow/core/common_runtime/gpu/gpu_device.cc:1746] Adding visible gpu devices: 0

SDK? При установке Cuda 10.1 и cuDNN оставил пути по умолчанию.

Answer 2

[Andrey Dugin]

Overhead на перегонку данных в GPU и обратно может быть слишком большим относительно времени вычисления в вашей конкретной задаче. Кроме того, в самом Tensorflow полно очень медленных функций, самописный аналог которых может быть на 1-3 порядка быстрее. Также может влиять разрядность чисел - например, посмотрите сюда: Как ускорить перемножение матриц в numpy?