У вас включен V-Ray RT. Он вообще не предназначен для финального рендеринга. Это движок для рендеринга в реальном времени, чтобы можно было быстро прикинуть ракурс или выставить освещение. В этом режиме много чего не поддерживается, так что для чистового рендера нужно использовать V-Ray Adv:
А ошибку он пишет, потому что в настройках V-Ray в свитке "Color mapping" поставлена галочка на "Sub-pixel mapping". Разработчик рекомендует держать эту опцию выключенной для получения более корректных результатов. Хотя, конечно, нужно по ситуации смотреть. Иногда на рендере вылазят такие артефакты, которые только включением Sub-pixel mapping можно вылечить.
Сложный
