Неправильный ответ функции sqrt в Питоне. Что делать?
Добрый день!
При вводе числа x=10000000000000000000000000000000000000000000000000000 команда sqrt выдает 100000000000000004764729344 а по идее должна выдавать 100000000000000000000000000. В чем проблема? Как это исправить?
Заранее спасибо!
Проблема в ошибке округления чисел с плавающей запятой.
from numpy import sqrt
from decimal import Decimal
n = Decimal(100000000000000000000000000000000000000000000000000)
sqrt(n) # Decimal('10000000000000000000000000')