Я бы переписал архитектуру программы.
1. Перед вами модальное окошко. Вот его и вызывайте, как модальное — au.exec().
2. Чтобы проверить, что авторизация верна, надо соединиться. Так что сделайте невизуальный объект «соединение» и протащите в exec. Ну или создайте в exec.
3. А уж там собирайте основную программу.
QApplication a(argc, argv);
FmAutoriz au;
std::unique_ptr<SomeConnection> connection = au.exec(); // SomeConnection и exec придётся написать
if (connection) {
FmMain m(connection);
m.show();
return a.exec();
} else {
return 0;
}
std::unique_ptr<SomeConnection>FmAutoriz::exec()
{
bool b = QDialog::exec();
if (b) {
return std::move(this->connection);
// connection — поле FmAutoriz.
// Такой же unique_ptr, в обработчиках кнопок пытаемся создать соединение.
} else {
return nullptr;
}
}
void FmAutorize_on_btOk_click()
{
connection = new SomeConnection();
if (connection.connect(someLogin, somePassword)) {
accept();
} else {
// сообщи об ошибке
}
}
Вижу побочку этого (но, может, и не надо избавляться) — на панели задач анимацией сменяется кнопка с диалогом авторизации на кнопку с главным окном.