Проблема оказалась в том, что имя моего пользователя было "Дом", которое написано кирилллицей. Чтобы решить проблему, нужно убрать из пути к плагинам все слова написанные кирилицей. Есть 2 способа
- Переименовать пользователя так, чтобы он был написан латинскими буквами
- Создать виртуальное окружение в корне диска C: (например). Установить там pyinstaller и pyqt5 и уже там собирать свй проект