PHPt

На счет этого писал в СП ВК. Там мне ответили, что нужно пару тегов добавить, но уже не помню. Обратитесь к ним, они помогут

Зачем переносить всю БД в RAM? А если сервер по неосторожности упадет? Откат на несколько часов назад, потеря данных. Настройте правильно MySQL и все будет отлично работать. Там уже встроены функция кеширования, он сам умеет хранить частые данные в RAM

Характеристик для файлового сервера предостаточно.
А установка сервера проста. Любой Linux дистрибутив. Пару мануалов о том как это все настроить.
Но главное это БЕЛЫЙ IP с открытыми портами.
А чтоб связать с готовым сайтом уже стоит написать скрипты. (Это уже программная проблема)
Думаю хватит Nginx и FTP. FTP для управления файлами, а Nginx для отдачи этих файлов (http, https).