Хм… а если гнать изображение на второй комп и жать там? Или второй комп для вас равнозначно покупке i3/i7? Опять же, найти энкодер на CUDA и (возможно поставив вторую видюшку при наличии второго разъема PCIeX 16x) энкодить через неё. Если же разъем только один, есть шанс, что потребление ресурса видюшки будет меньше, чем процка.