Saboteur

В опен-сорсе обычно очень маленькое количество огромных комбайнов. У вас тут хотелки на 5-6 отдельных продуктов. А все в одном бывает в основном в крупном ентерпрайз продукте, типа комбо от atlassians, или какой-нить битрикс.

Разбейте ваши хотелки на отдельные компоненты, тогда можно поискать какой-то бесплатный аутсорс, и то..

Пользователи сами настраивают свой личный сервер для переписки

Уязвимость номер раз, требуется квалифицированный пользователь, который понимает как и что он настраивает и может оценить риски.

Мессенджер использует симметричное шифрование, а ключи передаются между пользователями в оффлайн-формате.

Уязвимость в оффлайн формате какая-то есть. Если они передают друг другу по бумажке - одно. Если по телефону, или почте - то что за телефон, что за почта, могут ли пользователи оценить риски?

Сообщение шифруется локально на пк отправителя и отправляется на сервер, откуда пользователь получает его, если он в сети. Расшифровывается сообщение локально на пк получателя при помощи полученного от собеседника ключа шифрования.

Как проверяется, что сервер не дешифрует сообщение?

Притом, на сервере хранится только последнее сообщение каждого пользователя(история не сохраняется)

В каком виде? Дешифрованном или шифрованном? Какова вероятность компроментации сервера?

Ну и что за шифрование используется, насколько легко оно сейчас ломается, и как часто меняются ключи, учитывая сложность обновления ключей....

Гораздо проще все-таки настроить асинхронное шифрование между клиентами, и для каждой сессии генерировать новый ключ, таким образом даже бекенд сервер не сможет ничего сделать.

Ну и вообще, такой мессенджер скорее всего бесполезен. Если пользователи настолько опытные, что могут арендовать и настроить виртуальную машину, поставить и настроить там сервер, подключить к нему клиент, обменяться ключами, то в чем проблема ПРОСТО установить сервер, подключиться любым ссш клиентом и уже на самом сервере пообщаться в talk/write ?

А зачем именно p2p мессенджер?
Все равно ведь нужен какой-то центральный ресурс, через который пользователи будут хотя бы узнавать друг про друга.
А чтобы организовать связь группе людей, которые друг про друга и так знают - можно настроить что угодно локальное на своем сервере, куда подключаться знакомые напрямую или по VPN.

банальные Jabber, Slack, Mattermost, Mychat, IRC, Discord, write в linux, локальная почта..

1. Либо пользователи обмениваются между собой паролем заранее, не пользуясь вашим сайтом.
2. Либо они пользуются ассиметричными ключами, которые также должны сгенерировать за пределами вашего сайта.

Ну а дальше - стандартные вещи. Можете почитать https://ru.wikipedia.org/wiki/PGP

создаете своего бота для телеграм
записываете команду отправки в cron или вашу службу расписания на компе

все

Создатели телеграмм не писали клиенты самостоятельно. Они опубликовали API и документацию к нему, затем на конкурсной основе разные программисты/команды написали свои варианты десктоп клиентов. Некоторые из них стали "официальными", но на деле это просто наиболее популярные. И автором может быть кто угодно - отсюда и возможные проблемы с десктоп-клиентами.
На Маке есть ошибка с отображением gif файлов, которая жрет CPU, когда это исправится - пока неясно. Воркэраунды - покликать в панель с эмоциями (закрыть/открыть) - временно помогает.
Возможно имеет смысл поотключать лишние стикеры/эмоджи.

Нужно почитать что такое API, найти бота у которого есть API (например телеграм), почитать его документацию и можно сразу писать бота.

P.S. Конечно желательно знать какой-нить современный язык программирования, питон подойдет

Для скайпа сейчас надежных разработок нет.
Потому что проприетарный и клиент и сервер и протокол. Реверс инженеринг отстает.

Плагин purple-skypeweb вроде не стабильно работает.

А суть заключается в том, что Скайп уже давно не #1
И потому те, кому нужны удобные уведомления, забили на геморой с реверс-инженерингом и достаточно легко перешли на мессенджеры с нормальным и удобным API от разработчиков (telegram, whatsapp, etc).