Hocksten

Вы можете оформить "движок" в виде отдельной библиотеки. И да, это будет отдельный проект в солюшене. Создание экзешника остается делом студии.
Пример из документации.

Слишком мало входных данных, чтобы дать вам ответ.

Как я понял, в вашем случае движок планируется в виде редактора игр, в котором по нажатию волшебной кнопки "Создать игру" (образно) будет компилироваться exe-шник, так?
В таком случае вам нужно будет вместе с движком поставлять компилятор и при нажатии той самой волшебной кнопки запускать процесс компиляции. Ну, а файлы для компиляции будет создавать и заполнять редактор на основе действий пользователя

Если я правильно понял, речь идет о позднем связывании? Классы из DLL "просто так" не загружаются, схема такая:

Подготовка:
Сделать в dll экспортируемую функцию, которая будет возвращать указатель на экземпляр интерфейса класса.

Использование:
Загрузить dll - LoadLibrary()
Найти создающую функцию для данного класса - GetProcAddress()
Вызвать создающую функцию.
Работать с классом по указателю.

Это все будет работать стабильно только при условии, что dll и приложение создаются одинаковым компилятором с одинаковыми настройками.