Что значит точность не меньше 6 цифр у real?

Question

[wideShift]

Формулировка:
На большинстве платформ тип real может сохранить значения в пределах от 1E-37 до 1E+37 с точностью не меньше 6 десятичных цифр.

Answer 1

[galaxy]

А что, по-вашему, это может значить?
6 значащих цифр гарантируется, т.е. 123456 можно хранить, а 123456789 - можно, но с потерей точности:

postgres=# select 123456789::real;
    float4
---------------
 1.2345679e+08

Это на самом деле обычные ограничения 4-х байтового float, с некоторым запасом.

Comments

[wideShift]

Точность же это не кол-во цифр до точки, а общее кол-во.
Здесь же точность 7?
select 999.9999::real;
Как понять сколько чисел допустимо после точки, до точки?

[wideShift]

Здесь точность не утеряна, а цифр то 7, как так?
select 1234567::real;

[galaxy]

wideShift, общее количество значащих цифр, неважно, до или после запятой. Если вы ищите до/после запятой, смотрите на тип NUMERIC (для данных, где требуется точность, дучше именно его использовать. В частности, деньги лучше хранить в NUMERIC, ну или в INT в копейках).

Здесь точность не утеряна, а цифр то 7, как так?

а я и написал - "с некоторым запасом". Вообще у float точность - 7.6 цифр в среднем
Почему так - надо смотреть исходники Postgres. Может, они просто в доке подстраховались и написали с запасом, а может, они несколько бит при хранении под свои нужды используют и float получается не совсем полноценный.

[Melkij]

Может, они просто в доке подстраховались и написали с запасом

Обычный float языка C.
И причина такого описания в документации именно в этом. C не требует, что тип данных float - это именно IEEE 754. А потому - да хрен его знает, сколько в вашем компиляторе этот implementation-defined float гарантирует цифр. Не хуже чем требует C, остальное как получится.