0. OBS Studio
1. 720p@60fps x 4.5Mbit = не надо показывать мыльное кинцо на 2.5Мбит
-preset ultrafast,superfast, veryfast, faster, fast, medium, slow
https://trac.ffmpeg.org/wiki/Encode/H.264
иди от слева направо по параметрам пресета, пока не достигнешь, той нагрузки проца, которая требуется
2. Купи
хорошую карту захвата и кодирующий комп