если железо поддерживает - nvidia nvenc / intel quicksync / amd vce , всех их умеет задействовать obs, загрузка процессора меньше 10%, т.к. используется специальный аппаратный энкодер.
если нужна только запись без потоковой трансляции - mirilis action
если думаете о карте захвата - не берите usb 2.0 карты: нет 1080p @60 кадрах в секунду, по некоторых карт плохосовместимо с obs.
если nvenc/qs/vce нет и используется процессор - битрейт на максимум (2,5/3 мбит/с для твитча), профиль кодирования в obs на superfast/ultrafast, downscale с любого разрешения до 720p, игра только в полноэкранном режиме(не использовать оконный/windowed или полноэкранный оконный/fulscreen windowed - они медленнее), захват только через game capture - не используйте window capture или desktop capture, они больше загружают процессор.
если даже с downscale до 720p слишком сильно грузит - отключите анизотропню фильтрацию и сглаживание в игре, выключите тени, ambient occlusion(ssao sbao hbao), снизьте разрешение игры до 720p, закройте браузер - чат довольно сильно грузит процессор когда спамят смайлами.
если у вас potato pc - сделайте downscale до 800x600, все настройки игры на минимум, разрешение тоже.
и ещё, возможно вам достаточно разогнать процессор или видеокарту и производительности хватит?
напишите средний fps в игре и посмотрите что ограничивает fps - загрузка процессора или видеокарты.
кроме того, если у вас ноутбук - внимательно проверьте, не перегревается ли он.
Сложный
Средний
Простой