AlexSetup
@AlexSetup
Python

Неправильный ответ функции sqrt в Питоне. Что делать?

Добрый день!
При вводе числа x=10000000000000000000000000000000000000000000000000000 команда sqrt выдает 100000000000000004764729344 а по идее должна выдавать 100000000000000000000000000. В чем проблема? Как это исправить?
Заранее спасибо!
  • Вопрос задан
  • 226 просмотров
Решения вопроса 1
adugin
@adugin Куратор тега Python
Проблема в ошибке округления чисел с плавающей запятой.
from numpy import sqrt
from decimal import Decimal

n = Decimal(100000000000000000000000000000000000000000000000000)
sqrt(n)  # Decimal('10000000000000000000000000')
Ответ написан
Пригласить эксперта
Ваш ответ на вопрос

Войдите, чтобы написать ответ

Войти через центр авторизации
Похожие вопросы