Сильно сомневаюсь, что существует хороший аналог ntfs прав в линукс среде.
Базовые права там совсем не такие, а селинукс для этого решения слишком громоздкий.
поддержка ntfs на линуксе не совсем полноценная, она просто достаточная для многих случаев, но прям не полный аналог.
Лучше немного отступить от своей текущей конфигурации, и посмореть можно ли реализовать свои хотелки именно в рамках стандартов самба + стандартные POSIX права доступа.