Задать вопрос
Faraday
@Faraday

Как улучшить точность умножения плавающих чисел?

У меня в проекте появилась проблема, (Javascript)
У меня есть очень маленькое число k, на которое домножаются другие числа.
Так получается что погрешность при умножении выявляется уже знаке на 5-6, причем она разная на разных движках JS!?
Если я заменю очень маленькое число k большим (и возможно стоит его округлить до целого?) и, буду вместо умножения на него чисел, делить на него я учучшу точность?
  • Вопрос задан
  • 566 просмотров
Подписаться 1 Оценить Комментировать
Помогут разобраться в теме Все курсы
  • Яндекс Практикум
    Фронтенд-разработчик
    10 месяцев
    Далее
  • Skillfactory
    Профессия Веб-разработчик
    12 месяцев
    Далее
  • Нетология
    Fullstack-разработчик на Python + нейросети
    20 месяцев
    Далее
Пригласить эксперта
Ответы на вопрос 2
Stalker_RED
@Stalker_RED
Вообще это лечится при помощи штуки со странным названием Длинная арифметика

И поверхностное гугление сходу даёт https://github.com/jtobey/javascript-bignum
Сам не пользовался, может есть решения и получше.
Ответ написан
Формат с плавающей запятой по идее не должен страдать от описанной проблемы.
Вы можете привести пару реальных чисел и результаты их умножения на разных JS-движках ?
Ответ написан
Комментировать
Ваш ответ на вопрос

Войдите, чтобы написать ответ

Похожие вопросы