Signal
https://github.com/signalapp/Signal-Server
Труконф
https://trueconf.ru/prices/server-price.html
Но как это помешает пользователям прогонять служебные документы через интернет? Вам придётся тогда закрыть на роутере порты для остальных мессенджеров. Но если вы можете закрыть порты, то зачем вам корп мессенджер при наличии почты (тоже интернет) или файлового сервера?
P.S. При выборе мессенджера обращайте внимание есть ли в нем поддержка push серверов гугла Firebase Cloud Messaging и эппла (APNs).
Но забегая вперед, скажу - не страдайте фигнёй. Эксплуатировать свой мессенджер сейчас это равносильно тому, как держать свой почтовый сервер для фирмы из 10-50 человек. Сами себе ненужную работу создаёте, скилзы которой вам не пригодятся нигде.