Нуу... если qt нельзя использовать по финансовым соображениям (иных причин не вижу, ибо все остальное будет сложнее в любом случае), то можно взять легковесный
https://github.com/andlabs/libui и линковать его напрямую к каждому плагину - все равно много весу не добавит. Правда там очень мало компонентов.
Еще под него есть такая штука
https://github.com/mimecorg/vuido
Если собрать ваше с++ приложение как нативный nodejs модуль, то можно будет навернуть систему плагинов на основе js скриптов с отрисовкой нативных окошек.
В qt аналог такой штуки работает из коробки через qml.