Почему некорректно работает округление?

Question

[Sun2790]

let convertMina =1.23610000; // это число округляем к меньшему и сводим к кратному 0.10000000
// написал функцию
function rstMINAUSDT(num,stepSize=0.10000000){return Math.floor(num/stepSize)*stepSize;}
console.log(rstMINAUSDT(convertMina));
// что получаю в терминале ---->>>>  1.2000000000000002
/// почему???? Должно быть ----  1.20000000

Comments

[WbICHA]

Меньше умножай и дели на дробные. Умножай и дели на 10/100/1000 и будет тебе счастье. Но не всегда.

[szQocks]

// что получаю в терминале ---->>>> 1.2000000000000002
/// почему???? Должно быть ---- 1.20000000

про погрешность можно почитать на learn, и уже от этого отталкиваться углубляться если интересно

https://learn.javascript.ru/number#netochnye-vychi...

Answer 1

[VoidVolker]

Добро пожаловать в мир вычислений с плавающей точкой! Это вполне нормальное поведение и оно такое везде. Если нужна высокая точность - используйте BigNumber/Decimal и т.п.

Comments

[Sun2790]

// вот так показывает 1.2 - в принципе как и надо. То есть это нормально такие решения делать??
console.log(rstMINAUSDT(convertMina).toFixed(1));

[VoidVolker]

Нормально - решать задачи предназначенным для этого инструментом. Если надо примерно и быстро посчитать - есть флоат, если надо точно - десимал.

[shurshur]

Sun2790, https://0.30000000000000004.com/ классика жанра

Answer 2

[gsaw]

Все верно сделано, просто потом использовать toFixed(8) что бы конвертировать в строку. И эту строку уже использовать в API и в UI.