Ответы пользователя по тегу Математика
  • Вычисления с плавающей точкой?

    hybridcattt
    @hybridcattt
    Разное кол-во значащих цифр говорит о том, что в 1м случае последняя цифра округлилась до 0.
    А вообще, кол-во цифр после запятой не точно — 15-16, у float — 6-7. Это потому, что арифметика на самом деле двоичная, а не десятичная.
    Ответ написан
    Комментировать