Почему real может хранить числа от 1E-37 до 1E+37, но выводимое значение не больше 9 цифр?

Question

[artemfisher]

Вопрос по Postgresql. Так описано в пункте 8.1.3.

Comments

[Everything_is_bad]

ну ты пример-то приведи, где "выводимое значение не больше 9 цифр", или ты не понимаешь разницы между хранить и вывести (а еще есть такое понятие как форматированный вывод)?

[artemfisher]

Everything_is_bad, я знаю разницу, тем интереснее почему
select 123456.89012345::real=123456.89::real
возвращает true?

[Everything_is_bad]

artemfisher, так надо сразу явно указывать проблему, чтобы мы не гадали, поэтому я и уточняю

[Everything_is_bad]

artemfisher, ну ведь ты же прочитал пункт 8.1.3, там тебе написал "By default, floating point values are output in text form in their shortest precise decimal representation; the decimal value produced is closer to the true stored binary value than to any other value representable in the same binary precision. (However, the output value is currently never exactly midway between two representable values, in order to avoid a widespread bug where input routines do not properly respect the round-to-nearest-even rule.) This value will use at most 17 significant decimal digits for float8 values, and at most 9 digits for float4 values." что в этом не понятно? Хочешь поведение отличное от "By default", явно его указывай.

[Akina]

У типа данных REAL гарантированная точность - 6 значащих десятичных цифр мантиссы. Соответственно, выводится либо 7, либо 8 цифр.

Это определяется тем, как именно вещественные числа хранятся в памяти компьютера.

[Everything_is_bad]

artemfisher,
как в итоге по умолчанию select 123456.89012345::float4=123456.89::float4
явно указать другое select 123456.89012345::float8=123456.89::float8

Answer 1

[Melkij]

См. IEEE 754 потому что это именно он. И на всё наблюдаемое "странное" поведение типов с плавающей запятой ответ един - потому что IEEE 754.