СХД в домене как шара нормально ли?
А чего ненормально-то? Она для этого и создавалась.
Виртуальный сервер на esxi с хранением образа на СХД и использования его как файловый сервер. Стабильно/безопасно ли?
Виртуальные машины уже работают для куда более требовательных к надежности и стабильности задач, чем примитивный файловый сервер.
Так что выбор за вами. Я бы использовал систему хранения. Единственное зачем, при наличии специализированной хранилки, можно предпочесть «универсальный» сервер, это если вы хотите использовать что-то экстремально новое, типа SMB 3.0 или BranchCache из Server 2012 (конечно если у вас есть реальные задачи для этого), к сожалению встроенные средства «железных» систем хранения тут обычно отстают в реализации на год-два.