Александр Рак

en.wikipedia.org/wiki/Machine_epsilon
What every scientist should know about floating-po...
www.parashift.com/c++-faq/floating-point-arith.html

наверно тут надо использовать std::numeric_limits::epsilon

#include <cmath>  /* for std::abs(double) */

inline bool isEqual(double x, double y)
{
  const double epsilon = /* some small number such as 1e-5 */;
  return std::abs(x - y) <= epsilon * std::abs(x);
  // see Knuth section 4.2.2 pages 217-218
}

Один из подходов к определению точности - вести "двойные" вычисления:
ведется обычный счет + в каждой формуле вычисляется погрешность итогового результата (исходя из входных погрешностей операндов и вида операций).
К тому моменту, когда Вы подойдете к сравнению двух чисел a и b - Вам будет достаточно удостовериться, что их интервалы с учетом погрешностей не пересекаются.

Заранее вычислить число eps возможно только в очень простых случаях.
Более того, указывать его фиксированным в общем случае - совершенно неправильно.
А что если Вы вычисляете треугольник со сторонами в миллиметры ?
А что если у Вас угол при вершине всего полградуса ?