Также есть отличная книга по компьютерной геометрии.
В деталях рассматриваются такие тривиальные задачи, как нахождение точки на геометрической фигуре, пересечение линий и т.п., а также аффинные преобразования и многое другое.
Евгений Никулин - Компьютерная геометрия и алгорит...