Если нужен свой аналог Amazon S3, устанавливай на свой сервер 
Ceph.
Если нужно просто раздавать файлы, то наверно достаточно nginx в качестве веб-сервера и HAProxy в качестве балансировщика нагрузки. Пример в 
haproxy + nginx reverse proxy
А, вообще, если требуется предоставлять много разных сервисов со своего облака, то можно взять за основу 
OpenStack.