1. Для чатов используй JSQMessagesViewController
2. Socket.io для обмена сообщений в чате
3. LFLiveKit для передачи стрима
4. IJKPlayer для проигрывания стрима
5. Nginx RTMP module в качестве медиа сервера
Чтобы записывать видео, нужно в настройках rtmp модуля добавить опцию record all;