Можно делать примерно так:
#include <cfloat>
...
if (res > -DBL_EPSILON && res < DBL_EPSILON) res = 0;
cout << res;
В качестве DBL_EPSILON вы можете выбрать другое число, которое вам более удобно.
Красиво тут не получится. Так же как бесполезно делать точное сравнение (==) двух чисел с плавающей точкой.