@GineTik

Неправильные вычисления и как это пофиксить?

у меня есть пример: 0.999999999988288 - 1.0
выходит: -1.1711964731375701e-11

хотя так не должно быть, что это и как это пофиксить
и кстати если привести 0.999999999988288 в 0.999 то: 0.999 - 1.0 = -0.0010000000000000009
не супер точно но приемлемо
  • Вопрос задан
  • 92 просмотра
Решения вопроса 1
@kirillinyakin
То что у тебя вышло называется число с плавающей запятой, для того чтобы настроить кол-во знаков после запятой можно писать вот так print('{:.2f}'.format(value)), а то что у тебя получается неточно число, так это нормально, так это особенность представления чисел с плавающей запятой.
Ответ написан
Пригласить эксперта
Ваш ответ на вопрос

Войдите, чтобы написать ответ

Войти через центр авторизации
Похожие вопросы