Посмотрите здесь
https://www.google.com/search?q=powershell+get+fil...
Идея в том, чтобы скриптом получать пользовательские сессии на расшаренной папке. Этим же скриптом рвать сессии, если у пользователя их больше одной. Скрипт придётся написать самостоятельно.
Это не будет запретом подключения, но можно запускать скрипт каждую минуту, и двойные подключения будут отключаться. Минус в том, что пользователь может за минуту успеть открыть или скопировать какой-нибудь файл.
Т.е. от злонамеренных действий не спасёт.