Faraday
@Faraday

Как улучшить точность умножения плавающих чисел?

У меня в проекте появилась проблема, (Javascript)
У меня есть очень маленькое число k, на которое домножаются другие числа.
Так получается что погрешность при умножении выявляется уже знаке на 5-6, причем она разная на разных движках JS!?
Если я заменю очень маленькое число k большим (и возможно стоит его округлить до целого?) и, буду вместо умножения на него чисел, делить на него я учучшу точность?
  • Вопрос задан
  • 515 просмотров
Пригласить эксперта
Ответы на вопрос 2
Stalker_RED
@Stalker_RED
Вообще это лечится при помощи штуки со странным названием Длинная арифметика

И поверхностное гугление сходу даёт https://github.com/jtobey/javascript-bignum
Сам не пользовался, может есть решения и получше.
Ответ написан
Формат с плавающей запятой по идее не должен страдать от описанной проблемы.
Вы можете привести пару реальных чисел и результаты их умножения на разных JS-движках ?
Ответ написан
Комментировать
Ваш ответ на вопрос

Войдите, чтобы написать ответ

Войти через центр авторизации
Похожие вопросы