Почему получается число отличное от калькулятора?

Question

[fkk]

Как конвертировать HEX в DEC, почему получается число отличное от калькулятора?

Пример из калькулятора Windows:

В сети:

function hexToSignedInt(hex) {
    if (hex.length % 2 != 0) {
        hex = "0" + hex;
    }
    var num = parseInt(hex, 16);
    var maxVal = Math.pow(2, hex.length / 2 * 8);
    if (num > maxVal / 2 - 1) {
        num = num - maxVal
    }
    return num;
}

hexToSignedInt("FFFFFFFFFFFFCCFF") // -12288

Answer 1

[Rsa97]

Number.MAX_SAFE_INTEGER           // 9007199254740991 = 2**53 - 1
parseInt('FFFFFFFFFFFFCCFF', 16)  // 18446744073709540000
BigInt('0xFFFFFFFFFFFFCCFF')      // 18446744073709538559n

Таким образом, пытаясь преобразовать такое значение из шестнадцатеричного в десятичное обычного типа Number, вы теряете последние разряды, поскольку число получается не целым, а вещественным.

Comments

[AUser0]

_   parseInt("7FFFFFFFFFFFFFFF", 16) = 9 223 372 036 854 776 000
Windows Calc: 7FFFFFFFFFFFFFFF       = 9 223 372 036 854 775 807

P.S. Это я так подпеваю, простите.

Answer 2

[fkk]

Спасибо всем, в 4 часа ночи, мне не удалось понять, что при конвертации шестнадцатеричного числа в десятичное я выйду за Number.MAX_SAFE_INTEGER.

Решил с помощью BigInt, как и намекнул Rsa97

function hexToSignedInt(hex) {
    hex.length % 2 !== 0 && (hex = "0" + hex);
    
    const hexAsNumber = BigInt("0x" + hex);
    const maximalValue = BigInt(Math.pow(2, hex.length / 2 * 8));

    if (hexAsNumber > maximalValue / 2n - 1n) {
       return Number(hexAsNumber - maximalValue)
    }

    return Number(hexAsNumber);
}

const result = hexToSignedInt("FFFFFFFFFFFFCCFF") // -13057n
console.log(result);