[(Iron)Ruby] Проблема с Math.cos?

Question

[HomoLuden]

Случайно наткнулся на ошибку в Math.cos для аргумента PI/2.

irb(main):002:0&gt; cos(PI/2)<br/>
=&gt; 6.123031769111886e-17

На ruby-talk это обсуждали… как я понял это проблема «малых чисел» и имплементации тригонометрии.

«so of course it's reasonable to say that Math.cos( Math::PI/2 ) â 0.0, but perhaps not exactly. 9e-17 is insignificantly small. „

Для меня 9е-17 это “значимая» погрешность, т.к. косинус и синус использую в кватернионах для вращения векторов.


Эта погрешность только вблизи граничных результатов или на всей области определения?

Как корректно обойти эту ситуацию?

Переопределить косинус как мне надо (для PI/2 возвращать 0) и считать что для всех остальных аргументов вычисления верны?

Answer 1

[Wott]

это проблема арифметики с плавающей точкой и может всплыть в любом действии
если для вашей задачи E-16 ощутимо ( ну бывает, редко, но бывает :) ) — найдите библиотеку работающую с точностью, которая устраивает

Comments

[HomoLuden]

Специально решил проверить на C#.
Console.WriteLine(Math.Cos(1.5707963267948966192313216916398));
Console.WriteLine(Math.Sin(0.0));
Получил вывод:
6,12303176911189E-17
0
Ноль градусов — точно ноль радиан. 90 градусов — не имеет точного представления в радианах с ограниченной разрядностью. Так получается?

> если для вашей задачи E-16 ощутимо
Это вопрос скорости накопления данной ошибки. Непрерывное вращение. Если данная ошибка имеет место только для косинуса от PI/2 и 3PI/2, то искать точную библиотеку или залечивать костылем, видимо, нецелесообразно.

[Wott]

любой алгоритм вычисляет с некоторой точностью
и не надо накапливать ошибку — суммируйте углы поворота целочисленно, если это так важно встать в ординату

[HomoLuden]

> суммируйте углы поворота целочисленно, если это так важно встать в ординату
Важно не «встать в ординату», а устранить/избежать накопление ошибки при каждом вычислении косинуса угла.
В данном случае получается накопление будет значимым, только если последовательно вычислять косинусы углов 90 и 270 градусов, где функция возвращает ненулевое значение. Т.к. такая ситуация на практике не будет иметь место, то и проблема отсутствует, а мои подозрения не оправдались.