Как лучше синхронизировать большое количество файлов в реальном времени?

Question

[vovansystems]

Есть два сервера (debian) в разных датацентрах. Будет настроена балансировка. Требуется синхронизировать в реальном времени директории с тысячами мелких файлов мелкого объёма. В минуту будет добавляться около мегабайта данных (около 10 файлов всего). Какой инструмент для этого лучше выбрать?


Какие есть хорошие варианты? Смотрел в сторону NFS, rsync daemon, iSCSI, но у них у каждого свои недостатки…

Answer 1

[Ilya Evseev]

habrahabr.ru/post/132098/ — найдено гуглом по запросу «csync2 inotify».

Обратите внимание не только на статью, но и на комментарии к ней.

Comments

[vovansystems]

спасибо, изучаю — буду тестировать.

а не подскажете ли чем lsyncd+rsync отличается от lsyncd+csync2 (для двустороннего зеркалирования разработчик рекоммендует именно второй вариант..)

[Ilya Evseev]

rsync умеет синхронизировать только в одну сторону, csync2 в обе.
rsync сравнивает текущее фактическое состояние, csync2 дополнительно проверяет запомненное состояние на момент предыдущей синхронизации.

[Алексей Сундуков]

Поддержу IlyaEvseev, кроме того рекомендую использовать lsyncd версии >=2.1, потому как там перешли на fanotify. (который в отличие от inotify не требуешь вешать на каждую вложенную папку отдельный дескриптор, кроме того ядро может накапливать события на период перезапуска демона в том время как inotify эти данные потеряет).

[vovansystems]

да, так и хотел настроить но спрошу сначала: fanotify уже не глючит и нормально обрабатывает все события (перемещение, например)? читал много жалоб старых, интересно как дело обстоит сейчас. и можно ли ронять демон lsyncd надолго (допустим на полчаса) — всё ли он корректно обработает при запуске (теоретически — да :) )?

Answer 2

[shadowalone]

glusterfs посмотрите.

Comments

[shadowalone]

5-6к файлов, не очень мелких, полет нормальный, серваки разнесены в разные ДЦ, но канал стабильно-широкий между ДЦ.

[vovansystems]

поскольку всё оно работает на FUSE есть вопрос — какая скорость на чтение/запись у Вас в среднем? (многоу кого читал про 20 мб/с и 3 мб/с)

и ещё вопрос относительно консистентности при проблемах со связью — не было никаких проблем? мусора внутри файлов?

[shadowalone]

скорость к сожалению сейчас не могу замерить, но проблем не испытавали. А вот по файлам, точно ничего не было (мусора), сразу сказалось бы. Но, прошу учесть, как я писал выше, файлы не прямо мелкие совсем, в среднем по 15-20м

[vovansystems]

померяйте, пожалуйста, скорость, если будет возможность. очень интересует запись, а тест на виртуалках на у меня на ноутбуке не будет показателен :)

[shadowalone]

Я очень извиняюсь, я сейчас в поездке, буду дома после 20-го числа, с удовольствием померю и отпишусь.