1) в арифметическом сопроцессоре длина дробных чисел 10 байт, а не 8(double), так что точность повыше.
2) ряды Фурье применять тяжело, т.к. факториал (в знаменателе каждой дроби) быстро растёт.
3) есть метод CORDIC, который по небольшой таблице может рассчитать любую точность.
4) слышал на видеосеминаре, что скорее всего используются многочлены Чебышёва (знай наших!)