Вопрос очень специфичный, потому что все зависит конкретно от вашей архитектуры приложения и что не менее важно - от правильности выбора настроек и оптимизации системы. Конкретно рекомендации: использование VDS, VPS очень даже рентабельно. Большинство хостингов смогут обеспечить вас возможностью масштабирования мощностей без каких либо усилий. При нехватке ресурсов можно просто перелезть на более мощную архитектуру. Так же многие хостинги обеспечивают надежность хранения данных по средствам бэкапа (снапшоты или же место на резервном хранилище).
Могу порекомендовать
ru.hetzner.com - зарекомендовавший себя хостинг и наверно один из самых популярных.
Не стоит забывать что для домашнего сервера сложно обеспечить должную отказоустойчивость - отключение света, проблемы с интернетом. А так же ежемесячные дополнительные затраты на электричество и широкую стабильную полосу интернет.
По вопросу выбора ОС - конкретно что то рекомендовать не имеет смысла. Вот тут человек ниже отговаривает вас от FreeBSD. Основания?
просто на линуксе все работает быстрее это раз
админиться и ставится в 10 раз легче это да
Складывается впечатление что просто руки не из того место растут. При должном навыке на любой системе все будет отлично работать. Я не пропагандирую FreeBSD, для подобных задач использую Debian. Но система это всего лишь инструмент в руках специалиста, а инструменты выбирают под конкретную задачу. Поэтому выбирайте ту ось, в которая будет лучше отвечать вашим требованиям и проще для администратора который будет ее настраивать и оптимизировать.