Mairou
@Mairou

Почему при возведении в степень Python Numba дает неправильный результат?

from numba import njit

N = 100


@njit
def numba_pow(N): 
    return pow(N, N)

def just_pow(N):
    return pow(N, N)


print(numba_pow(N))
print(just_pow(N))


Результат в консоли:
0
100000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000

Почему так происходит?
  • Вопрос задан
  • 58 просмотров
Решения вопроса 1
@ScriptKiddo
Numba не поддерживает большие числа. Максимально - INT64 : 9223372036854775807

5f95c0cb55978345246764.png

https://github.com/numba/numba/issues/5005#issueco...
Ответ написан
Пригласить эксперта
Ответы на вопрос 1
xmoonlight
@xmoonlight
https://sitecoder.blogspot.com
Некорректное использование функции библиотеки. Читайте документацию.
Ответ написан
Ваш ответ на вопрос

Войдите, чтобы написать ответ

Войти через центр авторизации
Похожие вопросы