У вас всего два значения? Не лучше ли тогда считать абсолютную разницу между ними? Среднеквадратическое отклонение не говорит о том что вы пишите "как два значения в выборке отличаются друг от друга".
А зачем вам понадобилось в Qt рисовать график? В R есть много различных пакетов для построения графиков. Можно выполнить R скрипт через QProcess, а результат (график) вывести в Qt приложение.