Как и чем мониторить состояние дисков в ESXi?

Question

[Сергей]

Несколько вопросов по состоянию дисков под гипервизором ESXi 6.5
Держу на сервере файлопомойку, и на отдельном диске - виртуалки. Очень много всего, поэтому пока рейд сделать не получится.

1. Как мониторить состояние ЖД в ESXi? Смотреть SMART, время наработки, сделать Алерт и т.п.? Силами виртуальной ОС этого же сделать не получится...

2. Как понять причину отсутствия доступа к гипервизору по локальной сети? Просто может исчезнуть и всё. Доступ не появлялся даже после выключения и включения сервера. Только после полного обесточивания. Какие логи смотреть?

3. И последнее.
Как и чем восстанавливать информацию с VMDK дисков, в случае если последний умер?

Answer 1

[fdroid]

Если у вас настоящий сервер, а не самосбор из десктопного железа, а также установлена поддерживаемая версия ESXi из правильного дистрибутива, то мониторить общее состояние (ОК или не-ОК) можно из интерфейса гипервизора. Детальную информацию можно получить из терминала используя соответствующие утилиты для работы с RAID-контроллерами: для HP, например, это hpssacli (ssacli).

Comments

[Сергей]

Спасибо!
Так точно, 2U сервер Интел 2013 года.
Дистрибутив вроде стандартный, не заточенный под какую-то определенную сборку.

Вот как раз получается что нужна более детальная информация, чтобы вовремя принять решение о замене диска, и, если потребуется, прогнать тест на наличие сбойных секторов.

[fdroid]

2U сервер Интел 2013 года.

уже неплохо

Дистрибутив вроде стандартный, не заточенный под какую-то определенную сборку.

Честно сказать, с серверами Интел я дел не имел. У HP для правильной работы мониторинга параметров сервера - датчики температуры, памяти, состояние дисков и контроллера и т.д. есть специальная сборка HPE VMware ESXi Image, вот описание на сайте HPE. Для серверов Dell тоже такие образы есть. Для Supermicro чтобы контролировать состояние дисковой системы из веба я как-то доустанавливал драйверы вручную, образ использовался стандартный. В общем, тема объёмная, вам нужно в эту сторону изучать.

нужна более детальная информация, чтобы вовремя принять решение о замене диска

Вот как раз детали в этом случае не интересны. Если гипервизор пишет что диск не-ОК - то уже не особо важно почему, нужно менять. Мониторить можно заббиксом, настроить уведомление о том что диск не-ОК. Тут нужно много писать, у тостера не совсем тот формат.

PS Общий смысл задачи состоит в том, чтобы ESXi, установленный на сервере, понимал данные, которые ему предоставляет система мониторинга сервера, RAID-контроллер. Вот для этого и существуют кастомные сборки гипервизора. Стандартный образ тоже можно этому научить.

Answer 2

[Zettabyte]

Если у вас полноценный интеловский сервер, можете попробовать R.tester. Он "специально обучен" добираться до дисков, минуя различные препятствия, и этот его навык постоянно оттачивается.
Программа бесплатная, установки не требует.

Как и чем восстанавливать информацию с VMDK дисков, в случае если последний умер?

Очень рекомендую до этого не доводить. В зависимости от вашей конфигурации, такая задача легко может стать кратно сложнее "обычного" восстановления.

Усложняют ситуацию дополнительные уровни архитектуры, наподобие дельта-файлов. Если же вы потеряете метаданные, то почти наверняка про восстановление можно забыть вообще - останется каша из кусочков ваших файлов, которую можно будет собрать только вручную.

Пытаться собрать что-то после этого, конечно, можно, но ручная сборка отдельного файла(-ов) будет стоить вам сотни, а то и тысячи долларов, в зависимости от формата и размера.
Бэкапы обойдутся намного дешевле.

Comments

[Сергей]

Не подскажите, есть ли где мануалы по R.tester? Если ставить на гостевую ОС (Win 10) то наверное нужны спец. драйвера? Или под гипервизор?

[Zettabyte]

Сергей,

есть ли где мануалы по R.tester?

Вот основное руководство, которое дополняется на основе вопросов от пользователей: https://rlab.ru/doc/rtester_manual.html

Видео с обзором функций: https://blog.rlab.ru/obzor-funktsiy-programmi-r-te...

Быстрая диагностика жесткого диска: https://blog.rlab.ru/r-tester-bistraya-diagnostika...

Описание функций CERT tool: https://rlab.ru/doc/cert_tool.html

Видео по CERT tool: https://blog.rlab.ru/r-tester-ispolzovanie-cert-to...

В целом же полагаю, что мануал вам, скорее всего, не потребуется. Функции можно изучить "методом тыка", в т.ч. на другом компьютере. Такое использование будет безопасным, т.к. любые потенциально деструктивные функции (включающие запись) по умолчанию отключены, их нужно осознанно включать.

Кроме того, если у вас будут какие-то конкретные вопросы по программе, то у меня в профиле или на странице "Контакты" есть целый набор способов связи с нами (форум, VK, FB, Telegram, ...) - я или мои коллеги будем рады помочь: https://rlab.ru/contacts/

Если ставить на гостевую ОС (Win 10)

Инсталляция не требуется, программа просто распаковывается из архива.

наверное нужны спец. драйвера?

Тут однозначного совета, к сожалению, не дам, т.к. серверов Интел мы видели не так много. Не исключаю, что вам могут потребоваться драйверы, которые обеспечивают взаимодействие из виртуальной среды с реальным железом, но это лучше уточнить либо в поддержке Интела, либо на профильных форумах.

Как дополнительный вариант, попробуйте погуглить PCI address space в сочетании, например, с моделью или линейкой вашего сервера. Не исключаю, что советы по организации доступа к нему из виртуальной среды будут полезны.

Answer 3

[CityCat4]

Как мониторить состояние ЖД в ESXi

Что-то можно вытащить из snmp. Что-то - из тулзов, которые производитель контроллера пишет для ESXi. Если у Вас "сервер-из-десктопа" (для дома вполне норм идея, для бизнеса - идея никакая), то скорее всего, кроме того, что можно достать по snmp - ничего.

Как понять причину отсутствия доступа к гипервизору по локальной сети?

Смотреть логи. С таким не сталкивался ни разу ни при работе с нормальными серверами, ни даже при работе с "сервером-из-десктопа"

Как и чем восстанавливать информацию с VMDK дисков, в случае если последний умер?

Что значит "умер" в данном контексте?

Comments

[Сергей]

Ну, не совсем умер, но ему плохо: очень большая наработка и куча ошибок ввода/вывода.
Тесты показывают наличие небольшого количества бэдов. Что-то отремапилось, но видимо не всё...

[CityCat4]

Сергей, Хм. VMDK - сущность виртуальная, у него не может быть ни io error, ни бэдов, хотя на носителе, на котором он лежит, их вполне может быть конечно же. Для VMDK может быть только одна ошибка - повреждена внутренняя структура, он не опознается vmware или не монтируется осью. В этом случае - только доставать данные через программы восстановления удаленных данных или же прямо по секторам выцеплять, если данные имеют особую ценность.
Ну а вообще - бэкапы наше все. Вон тут вопрос есть от чувака, у которого вирус пожрал сервак :D

[Сергей]

CityCat4, все верно, диск не цеплялся гостевой ОС...
Сейчас я сделал клон на такой же диск, только поживее, посмотрим, может он подцепится...
А восстановление данных как раз проблема: все программы понимают только стандартные ФС, а VMFS понимает буквально пару программ, которых так и не излечили от жадности... =(

[CityCat4]

Сергей, Если vmware eго видит, а не цепляет гостевая ОС - может прогнать chekdisk или что там в гостевой оси есть?

[Сергей]

CityCat4, я его уже вытащил, прогнал Викторией - обнаружилось опредленное количество бэдов.
А в гостевой ОС его никак не проверить, так как она попросту не хочет запускаться, пока его не уберешь.