Александр Рублев

Нашел в чем была проблема.
У меня стоял Python x86. Но PyQtWebEngine больше не поддерживает эту платформу.
Поставил Python x64 после чего поставил pip install PyQt5 и все поставилось.

Вот решение, распишу как могу

self.material = material.Material() #создаем экземпляр класса окна которое будет внутри MDI
self.sub_material = QMdiSubWindow() #Создаем пустое под окно MDI
self.sub_material.setWidget(self.material) #Заполняем пустое окно нашим классом
self.mdi.addSubWindow(self.sub_material) #Добавляем окно к самой MDI области
self.sub_material.resize(self.material.size()) #Редактируем размер MDI под окна, взяв размеры из созданного в дизайнере класса
self.sub_material.show() #Отображаем под окно

Все нашел как исправить.
Надо поставить скобки
dialog1 = Dialog

dialog1 = Dialog()

Как я так лоханулся!