В задаче не сказано что x и y должны быть целыми числами.
Если расположить точку C на отрезке AB, после чего сместить её в любом из направлений на любую не нулевую величину - получится треугольник. Уменьшая значение смещения мы будем уменьшать площадь итогового треугольника. Итого при значении смещения стремящегося к нулю - значение площади тоже будет стремиться к нулю.
