Если нужен свой аналог Amazon S3, устанавливай на свой сервер
Ceph.
Если нужно просто раздавать файлы, то наверно достаточно nginx в качестве веб-сервера и HAProxy в качестве балансировщика нагрузки. Пример в
haproxy + nginx reverse proxy
А, вообще, если требуется предоставлять много разных сервисов со своего облака, то можно взять за основу
OpenStack.