> но с таким определением есть шанс выйти из-за сферы спокойно
Как? Или вы тут называете сферой исключительно поверхность?
Центр масс точек на сфере будет строго внутри сферы, никак не на поверхности.
> В этом случае возможны две точки на сфере как результат по идее
Какие две точки?
1. Оригинальная функция принимает радианы.
2. Вы в свою функцию передаёте радианы (angle*PI/180), тут я был неправ.
3. Вы всегда берёте только первые 5 членов ряда Тейлора из-за этого для больших углов у вас неправильный результат.
В принципе есть, например, дополнительные признаки для прямоугольных треугольников (которые по сути используют знание про угол) и можно что-нибудь ещё придумать в каких-то частных случаях.
Но в конечном итоге всё сводится к одному из трёх базовых признаков.