Максим

Похоже, что вы создаете виджет статически, вот он у вас и пропадает когда отрабатывает конструктор MainFrame(). Нужно так
Widget *window = new WindowTab(null);
Сигналы тут не нужны, просто вызвать show надо: window->show();

Вам нужно наследовать класс QSpinBox и реализовать метод validate

class SpinBox : public QSpinBox
{
public:
    SpinBox(QWidget *parent = 0) : QSpinBox(parent) {}

    QValidator::State validate(QString &input, int &pos) const
    {
        if (input != "0") {
            return QValidator::Acceptable;
        } else {
            return QValidator::Invalid;
        }
    }
};

А зачем вам понадобилось в Qt рисовать график? В R есть много различных пакетов для построения графиков. Можно выполнить R скрипт через QProcess, а результат (график) вывести в Qt приложение.