Для начала надо понять что классические рендеры типа vray и подобные, очень сильно отличаются от рилтайм (настоящий рилтайм, как в играх) рендеров. Основная разница в том что в рилтайм рендерит машина юзера, которой может быть как проф. комп так и ноут за 10к или китайский смартфон, а рейтрейсинг рендерится не на машине юзера, а на спец технике (комп художника или рендер ферма), юзер в этом случае просто смотрит готовые статичные кадры, либо поток кадров (видео). Поэтому есть жёсткие требования к 3д сценам чтобы они рендерились у юзеров 60 кадров в секунду. Например для производительности такие эффекты как тени, отражения, преломления вычисляются упрощённо и они значительно более условные чем в рейтрейсинге, да и каждый эффект имеет разные варианты реализации.
Поэтому надо чётко описать то что должно делать 3д приложение и из этих требований выбирать и применять правильные методы. Требования должен прописывать либо знающий художник, либо он должен консультировать, либо надо стать достаточно компетентным чтобы сделать это самостоятельно.