Не хватает вводных данных. Есть ли AD, есть ли опыт работы с линуксовыми дистрибутивами? Какого размера среднестатистический файл в хранилище? Какая нагрузка планируется по обращениям к файлам, пропускной способности сети?
Просто посоветовать Debian - есть вероятность подложить свинью человеку. Чтобы SAMBA стала по настоящему быстрой придется над ней поработать. Иначе из коробки получится примерно 50-70Мб/с. Кого-то устроит, кому-то неприемлемо.
Файловые системы под линуксом тоже заставляют думать заранее. Одним хорошо много мелких файлов, другим подавай гигабайтные размеры.