x264 offers a wide range of presets that change quality significantly, and presets above Faster require CPUs with 6+ cores. NVIDIA NVENC offers consistent quality based on the generation of the encoder. The updated NVIDIA Encoder (NVENC) on Turing-based NVIDIA GeForce GPUs (RTX 20-Series and GTX 1660/Ti) will typically produce superior quality than x264 Fast and on par with x264 medium. While the older generation (Pascal, Kepler) are similar with veryfast/faster quality.
Колхоз, конечно, но пользовался для похожих целей - работает. Проверки "попадания в нужное место" можно выполнить с помощью проверки цвета пикселя под курсором (если разрешение мониторов, опять же. одинаковое) либо вообще эмулировать не мышь, а клавиатуру (в 10ке ведь не сломали навигацию в меню "пуск" с клавиатуры?)