1) Это обычно имеет смысл, если полный цикл обработки идет на видеокарте. В противном случае, вы рискуете больше времени потратить на перекачку данных, чем на кодирование.
2) Велика вероятность, что ffmpeg вам придется пересобирать с поддержкой nvenc или какая там у вас карта.