для rtmp есть только выход использовать плагины, если пишешь для себя, то можно использовать плагины типа vlc, если пишешь что-то глобальное, то заменой можно пускать видео на ffpmpeg в конце команды добавить - и через stdout отдавать уже поток, главное с командами ffmpeg разобраться выставить битрейт, скорость, звук, кодеки и все прочее, у nginx есть плагин nginx-rtmp с ffmpeg как-раз, который выдает HLS..
P.S RTMP/RTSP все это работает через ActiveX, многие браузеры уже его убрали, поэтому IE его использует еще, но на EDGE кажется его уже не имеется, запихни его в object просто