Это разные фреймворки. Просто сделать не получиться.
Лично я здесь вижу только вариант с различными приложениями (exe): одно приложение написано на WPF (первое окно), а второе на WinForms (второе окно), а когда нужно с одного переходить на другое по нажатию кнопки, то необходимо запустить другое приложение - не просто новое окно создать.
Другой вопрос, если просто в WinForms приложении есть логика, которая тебе нужна. В этом случае, можно просто добавить ссылку на этот проект. Только убедись что версии дотнета совпадают - предлагаю для этого общего проекта выставить версию netstandard (1.0, 2.0, 2.1 - неважно)