Rsa97

Читайте в оригинале, переводчики, особенно не разбирающиеся в вопросе, часто гонят отсебятину. А уж что вытворяет машинный перевод - вообще ни в сказке сказать, ни пером описать.

If the pixel density of the output device is very different from that of a typical computer display, the user agent should rescale pixel values. It is recommended that the pixel unit refer to the whole number of device pixels that best approximates the reference pixel. It is recommended that the reference pixel be the visual angle of one pixel on a device with a pixel density of 96dpi and a distance from the reader of an arm's length.

Те есть "опорный пиксел" - reference pixel - это рекомендуемый размер логического пиксела, который должен максимально точно апроксимироваться целым числом физических пикселов.
А выбирать его надо так, чтобы угловой размер был эквивалентен 96dpi на расстоянии вытянутой руки от читателя.

А в Octave рисуются отдельные точки или линии между точками? Ваша реализация алгоритма, для отрезка (0, 0) - (2,3) выводит:

2 3
0 0
1 1
1 2

То есть, если задана отрисовка отрезков, то сначала отрезок (2, 3) - (0, 0), затем (0, 0) - (1, 1) и т.д.
Для нормального вывода перенесите в конец программы строку
print ("%d %d" %(x2, y2))