Борис Сёмов

Rsnapshot(http://www.rsnapshot.org/), например. И собирать по ssh со стороны удалённого сервера, используя авторизацию ключиками.

Сильно от приложения зависит, конечно, но чаще всего, использование такой связки совершенно не оправдано. Да и использование varnish вообще где не попадя часто плохая идея, хотя бы из-за довольно странного использования им памяти.

Если у вас происходит только раздача контента, без его обработки, вам практически не нужен процессор. Практически у вас основное узкое место это диски.
Такое решение надёжнее и обычно дешевле делать не на одном мощном сервере, а на нескольких довольно простых.

Возможно имеет смысл сделать пару основных хранилищ и несколько кеширующих фронтэндов с ssd, если есть часть файлов запрашиваются заметно чаще других.
Если запросы размазаны по всем файлам, имеет смысл брать несколько простых однопроцессорных 1U серверов по 4 винта в каждый, побольше памяти. И распределять запросы между ними.
Такие решения и надёжнее, и обычно дешевле чем одиночный сервер, который справится с такой же нагрузкой. К тому же проще масштабироваться потом, добавляя постепенно типовые и недорогие серверы, с одинаковой конфигурацией железа и ПО.

Да, как вариант использовать SFTP, если надо именно ftp и именно под proftpd, то можно почитать www.castaglia.org/proftpd/doc/README.PAM.html