Кто-нибудь работал так?С webRTC сталкивался по мелочи, что конкретно вас интересует?
У меня просто вопрос, куда копать?Куда вам нужно туда и копайте.
Какие технологии применить, точнее какой стек?Любые.
Какую БД использовать, MongoDB или MySQL?Какую угодно. Можете пользоваться текстовыми файлами, или написать свою БД.