Григорий

Если создать пустой QML проект, то в нем будет подключен qml.qrc. В CMAKE не силен, по этому просто советую проверить самому и разобраться

По всей видимости задумкой было заполнить таблицу результатами при разных X. Но по факту каждый раз рнасчитывая новый Y вы складываете их в одну и туже ячейку таблицы и вы всех ячейках вы имеете расчитаные при максимальном X.

В крадце вам нужно зарание посчитать колличество необходимых ячеек в таблице, сделать
ui->tableWidget->setRowCount(newSize); (или что то в этом роде)
и привести ваш цикл к виду:

int i = 0;
for(x = xn;x<=xk;x = x+xh, ++i) {
// Расчет очередного Y
  QTableWidgetItem *itm = new QTableWidgetItem(QString::number(y));
  ui->tableWidget->setItem(i,0,itm);
}

Нужно что бы ваша модель генерировала сигнал. После чего без проблем делается обработчик этого сигнала в QML.
C++:
void someSignal(QString result);
QML:

Connections {
    target: model
    onSomeSignal: {
      if(result.length) {
        resultLabel.text = result;
      }
    }

  }

QTime::toString() для таймера лучше не использовать. он скорее просто для вывода времени в определенном формате. Что посчитать затраченное время лучше сделать так:

__int64 start = QDateTime::currentMSecsSinceEpoch();
    /*
     *
     *
     *
     *
     *
     */
    __int64 duration = QDateTime::currentMSecsSinceEpoch() - start;
    ui->label->setText(QString::number(duration));

Все зависит от того что ты с этим файлом будешь делать. например можно прямо в исходном файле символы ненужной строки заменить на пробелы. и данных нет и файл на месте.

Промежуточный результат. Если у Text задать свойство renderType: Text.NativeRendering то текст становится нормальным. Осталось выяснить почему так происходит.

Дополнено:
что бы применить нативный рендер ко всему проекту можно вставить qputenv("QML_DISABLE_DISTANCEFIELD", "1"); в начале main либо через функцию

void QQuickWindow::setTextRenderType(QQuickWindow::TextRenderType renderType)

с параметром QQuickWindow::NativeTextRendering

В qml есть 2 версии QtQuick.Controls - собственно 1 и 2. По дефолту ты подключаешь 2 , а в ней стилей нет. В ней кастомизация делается по другому. Пример: Qt Doc. Как написано здесь stack чтобы все заработало как ты хочешь нужно использовать QtQuick.Controls 1 версии. Например так:

import QtQuick 2.14
import QtQuick.Window 2.14
import QtQuick.Controls 1.4  as QQC1
import QtQuick.Controls 2.14 as QQC2
import QtQuick.Controls.Styles 1.4

Window {
    visible: true
    width: 640
    height: 480
    title: qsTr("Hello World")

    QQC1.Slider {
        anchors.centerIn: parent
        style: SliderStyle {
            groove: Rectangle {
                implicitWidth: 200
                implicitHeight: 8
                color: "gray"
                radius: 8
            }
            handle: Rectangle {
                anchors.centerIn: parent
                color: control.pressed ? "white" : "lightgray"
                border.color: "gray"
                border.width: 2
                implicitWidth: 34
                implicitHeight: 34
                radius: 12
            }
        }
    }
}

QMap<Key, T> &QMap::unite(const QMap<Key, T> &other)

Читайте документацию)

В Qt сигналы и слоты можно связывать в любой комбинации если их сигнатуры совместимы. В данном случае нужно просто сделать 2 QObject::Connect() для связи этих QAction со слотом.

Диалог используется неправильно. Какой смысл создавай файл с заведомо известным именем, а потом вызывать диалог для выбора этого имени. Суть в том что имя выбраное в диалоге возвращается в стоку str. Если в диалоге нажать отмену то строка будет пустой, иначе там будет имя файла для сохранения. И уже с этим именем открывать файл для записи.