Константин

Буквально вчера на популярном ресурсе вышла свежая обновленная статья на эту тему, там рассматривается вариант установки Postfix (и сопутствующих ему доп.программ) в качестве почтового сервера под Debian-ом. Мануал максимально детальный.

Как сказано в официальной документации iRedMail, надо не менее 4 Гб ОЗУ для почтовика с небольшим трафиком.

iftop

Нужно посмотреть каким-то адекватным таск-менеджером, где у вас там узкое место.
Возможно, окажется, что дело не в сети, а дисковая подсистема проседает или ОЗУ заканчивается.

Например, Resilio Sync.
Бесплатная версия вполне функциональна, синхронизирует по p2p-технологии, есть приложения для популярных ОС, включая Андроид. Но это возможное решение вашей второй задачи, связанной с синхронизацией.

Как-то так

Настроить сервер так, чтобы качающие не забивали ему весь канал, зашейпить трафик до нужных пределов.

nextcloud.com

1) С разными. Помимо прописывания DNS, надо будет узнать, что такое SPF и DKIM, ну и настроить их, соответственно.
2) Веб-интерфейс существует, но он не входит в Postfix. Например, Roundcube. Чтобы не заморачиваться, можно поставить бесплатный почтовый сервис типа iRedMail, основанный на том же Postfix, туда уже входит несколько разных оболочек для веб-почты, включая Roundcube. Установка элементарная, но только на чистую систему.
3) Вероятность того, что спамеры заинтересуется, чуть менее, чем 100%-ая, так что придётся поразбираться в конфигах почтовика для настройки антиспама.
4) В том же iRedMail есть встроенный антиспам, но правильная настройка конфигов самого Postfix-а уже отобьёт львиную долю спама с кривыми отправителями, которые не проходят минимальные проверки.

Microsoft Remote Desktop

Image Catalyst также неплохо справляется с задачей в ОС Windows. Выглядит как некий bat-файл с параметрами, пользоваться удобно.

А hostname, указанный в настройках почтовика и от имени которого отправляется почта, корректный и существующий? У этого получателя (думаю, не только у него) стоят проверки, которое ваше письмо не проходит.
Протестируйтесь на www.mail-tester.com и появится ясность, где трабл и что надо подкрутить.

Используйте ту ОС, которая удобнее, привычнее и понятнее тому, кто будет заниматься её настройкой/поддержкой.

Грабер М. - Mastering SQL