Программы для систем видеонаблюдения не используют плейлисты, и если у вас на входе файл m3u8, в котором содержатся адреса потоков, вам эти адреса придется вытащить. Если строчки в m3u8 ведут на RTSP или HTTP источник, что то может получится. Попробуйте
ISS SecurOS Lite, она бесплатная и имеет встроенный JavaScript для пользовательских программ. Если в файле не адреса потоков, а адреса файлов на диске, мало что получится, используйте мощь VLC