1.1 - не подскажу - нет опыта
1.2 - по локалке samba, извне через брвозер - owncloud например, безопасность - длинные пароли и ssl
1.3 - transmission с вебмордой
2.1 для owncloud нужен будет php добавьте mysql и apache/nginx по вкусу, Ось ту в которой лучше разбираетесь.
2.2 вариантов море, посмотрите на связку exim dovecot spamassasin clamav mysl и вебморды админка -postfixadmin, юзерам ящики смотреть roundcube/horde
3. тут надо исходить из колва и обьема дисков.
4. линукс в этом не нуждается.
5. можно но это добавит мороки - выгода от этого не очевидна.
6. Из опыта работы в хостинг провайдере- 98% случаев угона данных, взломанных аккаунтов и тд, происходит из за человеческого фактора - словарные пароли типа "qwerty123" пароли в txt файлах или сохраненные в бровзере, угнанные почты изза банальных секретных вопросов.... список можно продолжать бесконечно. и только 2% это проблемы в софте.