Задача состоит из двух с половиной:
- Прочитать поток из Pcap файла https://www.javahelps.com/2017/08/parse-pcap-files...
- Сформировать RTSP поток из прочитанного Pcap https://www.oracle.com/java/technologies/javase/ja... или https://netty.io/
2,5 шаг - объединение этих двух.
p.s. есть варианты и без Java - воспроизвести pcap с помощью tcpreplay и сформировать необходимый поток с помощью ffmpeg