Для вебинаров вполне подойдёт, для ВКС - много геморроя с логикой.
Если нужна запись, то про p2p забываем.
Остаётся либо флюссоник, либо вовза.
Первый лучше, т.к. поддержка на русском есть.
Вот здесь почитать, а здесь пример страницы публикации.

Если коротко, то веб приложение из примера инициирует соединение с сервером, захватывает видео и аудио из браузера и начинает лить видео в сокет. Для этого нужно защищённое https соединение с серверов, так что сертификатом озаботьтесь.
А далее на сервере уже можно крутить потоком как хочешь - записывый, транскодируй, раздавай как угодно.
Сегодня есть два распространённых способа раздавать видео в браузере с низкой задержкой:
1. RTMP - старый, добрый flash
2. WebRTC - молодой, сырой и с нюансами протокол и транспорт
3. экзотика всякая, например у того же flussonic есть своя хитрая реализация плеера и протокола, которая позволяет сегменты (!) играть с низкой задержкой и при этом браузеру не становится плохо. Задаётся как proto=mse
В идеальных условиях WebRTC даёт задержку порядка 200-300ms, в реальных условиях - порядка 500ms.
RTMP - до секунды.

Можете отключить аппаратное декодирование (возможно придётся и кодирование тоже отключить) в настройках OBS.

Гадания по скриншотам:
1. Доводилось видеть хитрый вирус-майнер, который не был активен до появления загрузки на GPU.
Проверьте систему на всякий случай.
2. Как опция на Windows помогает обновлением до актуальной стабильной версии самой винды и переустановкой стабильного драйвера.
В release notes иногда описывают критичные вещи, включая нечто похожее на то, о чём вы сообщаете.