@time2runtime

Как повысить точность вещественного деления в среде C++?

При реализации логики калькулятора на языке С++ столкнулся с различием в точности с референсом.
В качестве референса был использован стандартный win32 (не UWP) калькулятор Windows 7 / 10.

Пример: деление 100 на 6.
Калькулятор Windows: 16,66666666666667
Стандартные средства C++: 16,6667

Использовалось и приведение и объявление double и long doule.

Вопрос: Какие есть методы приведение в эквивалентную точность в рамках стандартной библиотеки?
  • Вопрос задан
  • 96 просмотров
Решения вопроса 2
15432
@15432
Системный программист ^_^
Может вы выводите на экран с точностью в 4 знака? У double явно побольше точность
Ответ написан
@mayton2019
Bigdata Engineer
Нормально все считается. У меня вышло

sizeof(double) = 8 bytes
z = 16.66666666666666785090


gcc version 9.4.0
Ответ написан
Пригласить эксперта
Ваш ответ на вопрос

Войдите, чтобы написать ответ

Войти через центр авторизации
Похожие вопросы