Так в чем собственно у вас проблема, что вы хотите получить?
Загвоздка в инструментах для построения 3D графиков на Qt? Посмотрите на этот
qwtplot3d.sourceforge.net/
Нужно ли сортировать\интерполировать\аппроксимировать или нет, уже решать вам исходя из вашей задачи, что нужно получить, на каком интервале, может вам важна последовательность точек?.. Или ваши точки достаточно неравномерно разбросаны и вам не хватает «гладкости»?