Какие распределенные файловые системы или хранилища сейчас популярны?

Question

[grabbee]

Задал вопрос про сайт картинок. Все хором послали в S3 - но это сервис. А если самому всё делать. Какие инструменты администрирования сейчас популярны? Ceph?.. Может ещё что-то?

Какие есть варианты резервирования и администрирования массива файлов(картинки/мемасы)?

Comments

[xmoonlight]

Задайте тут вопрос.

Answer 1

[Владимир]

Ну тут вопрос сначала о бюджете и только потом о технологиях.
приведу реальный пример - есть 100ТБ электронных писем(почтовый хостинг) - миллиарды мелких файлов, есть зоопарк стораджей которые отдают это по NFS в контейнеры и виртуалки. Никаких обджект стораджей и цефа(или другой распределенной ФС).
сами стореджи - от просто 2U серверов с кучей дисков до СХД dell unity различный моделей.
горячего резервирования нет (ибо дорого), есть бекапы.
Поэтому вам нужно тщательно считать - возможно резервирывание и распределенный сторедж это то что вы не можете себе позволить, а вот просто 2U сервера от например supermicro на 24 или 50 дисков, которые отдадут NFS шару соседним серверам с контейнерами это то что вы можете позволить.
Отдельно нужно считать сколько стоит минута или час простоя вашего сервиса.

Comments

[grabbee]

а вот просто 2U сервера от например supermicro на 24 или 50 дисков, которые отдадут NFS шару соседним серверам

Возможно это лучший вариант. Каким софтом это делается?

[grabbee]

Кстати. У хостера есть услуга помимо серверов
* SAN-HA 10TB
* SAN-HA 5TB
* SAN-HA 1TB

Только я не знаю что это и на сколько безопасно.

[CityCat4]

grabbee, ...и в гугле меня забанили...

[grabbee]

CityCat4, и, ты сам хоть посмотрел?

[Владимир]

grabbee, предполагаемая ОС Centos/Ubuntu при помощи ZFS собираем рейд массив, собирать один массив на 50 дисков - плохая идея, так как время ребилда массива будет велико и скорее всего оптимально будет пару дисков в рейд1 под систему, а 48 дисков в три массива по 16 дисков (хотя по хорошему это все надо считать). Потом при помощи NFS(zfs имеет интеграцию с nfs если он установлен) отдаем это дисковое пространство как сетевую шару.

[CityCat4]

grabbee, Конечно. Я не советую другим то, что сам не читаю. Заодно это кругозор расширяет :) Про то, что такое SAN HA - там написано, а уровень безопасности технологии я думаю от обычного SAN мало отличается. Уровень же безопасности реализации технологии конкретного хостера - нужно спрашивать у самого хостера, кроме него все равно никто не скажет.
Потроллить тролля - это только кажется, что просто :D

[grabbee]

CityCat4, там первая и единственная ссылка на моего хостера. И его собственное описание.

[CityCat4]

grabbee, Бывает :) Земля имеет форму чемодана - это всем давно известно :)

Answer 2

[index0h]

mogilefs
minio

Answer 3

[Армянское Радио]

А вам правильно ответили - не используйте распределенные файловые системы, используйте S3, пусть даже поверх того же ceph

Файловая система должна предоставлять огромное количество очень жестких гарантий, что оборачивается крайне низкой производительностью в распределенном случае.

Теоретическое обоснование:

https://ru.wikipedia.org/wiki/%D0%A2%D0%B5%D0%BE%D...

Answer 4

[АртемЪ]

Какие распределенные файловые системы или хранилища сейчас популярны?

Популярны многие, а вот какие подойдут под конкретную задачу - неизвестно, поскольку неизвестны требования.

Быстро и без забот - S3
Если на своем можно готовые решения вроде Ceph
Если не устраивает функциональность готовых решений - можно делать с нуля.

Выбирается то что наиболее удобно и подходит под задачу.

Comments

[grabbee]

Кроме Ceph сейчас что популярно? Ceph разве мэйнстрим сейчас?

[АртемЪ]

grabbee,

Кроме Ceph сейчас что популярно?

Что значит кроме Ceph?
Вас интересует какой еще софт умеет создавать масштабируемые сети хранения или что?
С чем сравнивать с сетями хранения, с распределенными ФС, или вообще с ФС?

Ceph разве мэйнстрим сейчас?

Нет конечно.
Он в принципе не может быть мэйнстримом потому что это узкоспециализированный софт. И изначально далек от мэйнстрима.

Если речь про распределенные ФС - GlusterFS, Nexenta

Answer 5

[xmoonlight]

Тут

Answer 6

[Ar20L80]

Здесь некоторый обзор фс: https://itelon.ru/blog/raspredelennye-faylovye-sis...
Еще информация: https://fb.ru/article/447249/raspredelennaya-faylo...
Самому с нуля что-то делать может оказаться очень затратно и долго.