Координаты всегда начинаются с 0. Рисовать ты, очевидно, будешь не в начале координат. Ты должен определиться, вокруг какой точки ты будешь вращать треугольник. Затем переместить эту точку в начало координат, и такой же трансформацией перенести вершины треугольника. Затем повернуть точки, используя матрицу поворота. Точка, вокруг которой ты вращаешь, при этом, останется в начале координат. Затем нужно выполнить обратный перенос.
Ссылку на аффинные преобразования тебе дали, алгоритм я тебе расписал. Осталось закодить.