По поводу задержек есть пара годных статей:
часть один часть два
в вашем случае с наименьшими задержками будут выходить rtsp, rtmp, mpegts в порядке увеличения задержки.
HLS в принципе сегментный и задержку будет давать высокую.
Если в браузере надо показывать с низкой задержкой, то либо проф продукты, либо ковыряние в WebRTC, MSE-ld и прочем wss.