Обычно в учебных работах (и даже не в учебных — именно так работает Excel) не округляют, а выводят с округлением.
writeln(x1:0:3);
writeln(x2:0:3);
Каких-то продвинутых средств округления, которые округляют дробное число до i-го знака я не вижу.
Кроме того, вы подсказали, с каким Паскалем вы имеете дело, я загрузил его и повторил прошлую ошибку — такая ошибка происходит именно что из-за округления NaN.