По возможности выбирайте как можно более качественный preset, изучайте ограничение платформы по битрейту, устанавливайте максимальный для нее.
При большом количестве динамики в кадре стрим на том же Twitch может и будет сыпаться.
Вот вам рекомендуемые настройки Twitch,
вот гайд по отлавливанию проблем.
После установки максимального битрейта вам остается только тратиться на более лучшее железо и выбирать более качественный preset, пока это самое железо не начнет терять кадры (dropped frames >5-10%). Повторять до победного, либо пока не упретесь в мощности актуального на данный момент железа и вашего бюджета.
Можно еще раскрутиться до
Partners, у них, ЕМНИП, больше максимальный разрешенный битрейт. Ну это так, полет фантазии, ибо реалистично больше никаких вариантов нет.