Windows хочет кодировку файлов в CP1251. UTF-8 или KOI8-R он не понимает и не сможет понять. Придётся на сервере все имена файлов конвертнуть в CP1251.
У Windows далеко неполноценный клиент NFS. Будет проще мигрировать на SMB или использовать стороннее ПО для работы с NFS
