@angelform
Сисьадмин

Как хранить очень много данных (в перспективе 40+ ТБ)?

Debian 7 x64, fs ext4
Сейчас данные хранятся на 2 usb коробках под 4 HDD (5 raid средствами самой коробки) соединенных в raid0. Стало сильно мало места, надо еще столько же как минимум на ближайшее время. Сложности следующие:
- низкая скорость доступа, копироваться все будет в новое хранилище неделю, а то и больше
- raid0 - no comments
- даже если купить еще 3 коробки и собрать raid5, потом все скопировать на них с текущего raid0, то все равно как-то мне нравится такое решение, потом расширять раздел старыми коробками... мутно и не надежно
- бюждет на огромное хранилище никто не выделит, как-то надо обойтись малой кровью

Никогда не работал с таким большим объемом данных, решения пока не вижу. У кого есть опыт - поделитесь, пожалуйста.
  • Вопрос задан
  • 2848 просмотров
Пригласить эксперта
Ответы на вопрос 1
@inkvizitor68sl
Linux-сисадмин с 8 летним стажем.
Покупаете мать с 8 или 10ю сата портами и кучей сетевух, настраиваете bonding, собираете raid6 из них (переживает вылет любых двух дисков, достаточно быстрый доступ).
market.yandex.ru/model.xml?modelid=10392262&hid=91020 - вот самая дешевая.
Малой кровью всё равно не обойдетесь, 10 дисков по 4 ТБ влетят в копеечку. Другой вопрос, что прямо сейчас вам 10х4 и не нужно, а когда понадобятся - уже будут 5-6 ТБ диски.

Если смотреть на расширение в будущем (и, в то же время, на надежность), то я бы посоветовал придерживаться такой конфигурации:
каждые 2 диска попарно объединяются в raid1
из каждого raid1 делается pv
из всех pv собирается vg (для lvm)
pv нарезается на куски нужного размера (чтобы не держать одну файловую систему на 20-40 ТБ)
Когда придет время расширять - освобождаете место для удаления одного raid1 из pv/vg, делаете vgreduce (ахтунг, долго и грузит диски), ждете, делаете pvremove, меняете 2 диска, собираете новый raid1, из него делаете pv, делаете vgextend.

Ну и там ещё можно всякие USB3 и eSATA под это дело использовать, хотя я бы не советовал. Если сильно припрет и понадобится больше 10 дисков - то всегда есть PCI-sata (и PCI-express sata) карты, на каждую из которых обычно можно ещё по 4 диска повесить.

Ну и самое главное - хороший БП, хорошее охлаждение. И диски берите из разных партий.
Ответ написан
Комментировать
Ваш ответ на вопрос

Войдите, чтобы написать ответ

Войти через центр авторизации
Похожие вопросы