Метод QFontDialog::getFont является static
Его вызов создает объект диалога самостоятельно.
(вызов static метода на объекте скорее всего является ошибкой)

Для задания параметров фильтрации опции можно передать через параметр в расширенной версии этого метода.

#include <QApplication>
#include <QFontDialog>
#include <QDebug>

int main(int argc, char *argv[])
{
    QApplication a(argc, argv);
    {
        bool ok;
        QFont tmp;
        QWidget* parent = nullptr;
        auto font = QFontDialog::getFont(
            &ok
            , tmp
            , parent
            , QStringLiteral("Title")
            , QFontDialog::MonospacedFonts | QFontDialog::DontUseNativeDialog
            );
    }
    return 0;
}