Если вычисления с одинарной точностью или целочисленные вычисления, то количество cuda ядер — один из главных параметров выбора.
Если вычисления с двойной точностью, то важен тип карты: Nvidia постаралась сделать так, чтобы Quadro с 192-мя cuda ядрами рвала в клочья GTX с 512-ю cuda ядрами (Tesla тоже круче GTX на этих вычислениях).
Плюс ко всему, GTX 580 c 512 cuda ядрами может быть быстрее GTX 680 c 1536 cuda ядрами на некоторых задачах в 1.5 раза.