tsarevfs

Предлагаю вращать не прямые, а фигуру. Для этого достаточно домножить координаты каждой вершины на матрицу поворота. Ну, а прямые можно взять горизонтальные (y=c1, y=c2, ...). Так будет значительно проще искать пересечения сторон с этими прямыми.

Если окно это прямоугольник со сторонами паралельными осям координат (вертикальными и горизонтальными), то стоит этим пользоваться, это сильно упростит жизнь.
Какие есть варианты:
1 многоугольник попал в окно целиком
2 многоугольник пересекает окно
3 окно лежит внутри прямоугольника
В первом случае все вершины многоугольника лежат внутри, пересечений по сторонам нет.
Во втором, есть пересечения по сторонам. Вершины могут быть распределены по-разному(!)
В третьем нет пересечений сторон, все вершины снаружи.

Получается надо уметь проверять 2 факта:
1 вершина внутри окна -- элементарно, x_min<=x<=x_max && y_min<=y<=y_max
2 сторона многоугольника пересекается со стороной квадрата. Чуть сложнее, но учитывая что стороны квадрата паралельны осям, код будет несложный.

Немного переформулируем задачу: найти первое такое число i, что найдется j от 0 до i-1, что a[i] + a[j] = N.

pd.x += sin ( angle ) * 64;
pd.y += cos ( angle ) * 64;
Скорее всего так. Если угол в градусах, то надо перевести в радианы, чтобы считать синус и косинус:
pd.x += sin ( angle / 180. * pi ) * 64;
pd.y += cos ( angle / 180. * pi ) * 64;

Нужно что-то такое
https://github.com/Tom-Alexander/regression-js
Polynomial regression
Билиотекой не пользовался, но суть именно такая.

В зависимости от того зачем это вам.
Если хочется иметь адекватный вывод для пользователя -- используйте округление или форматирование с ограничением числа знаков после запятой (что тоже использует округление).
Если хочется делать проверки на ==, <=, >= -- используйте сравнение с погрешностью.
Если из за погрешностей не правильно работают ваши алгоритмы -- попробуйте длинную арифметику.
Если нужно точно вычислить предикат, и длинной арифметики не хватает (слишком долго), например в некоторых задачах вычислительной геометрии, то есть специальные техники. Например neerc.ifmo.ru/wiki/index.php?title=%D0%98%D0%BD%D1... и adaptive precision floating-point arithmetics. Эти подходы нужны в очень узком классе задач и в отличие от предыдущих пунктов не являются обязательным знанием для каждого программиста.