replechaun

Неплохо было бы написать, в какой строке ошибка (а для начала оформить код нормально - в редакторе кнопка есть).
Видимо, тут проблема return 5 * tan(x) - (10 / (x) ^ 2) - 3;
(x) ^ 2 - это не возведение в степень, а XOR (исключающее ИЛИ). В квадрат возводить так: x*x, например