Для этой задачи не нужны трюки с углами. Исходные данные -
Xm Ym - координаты мыши
Xc Yc - координаты "центра" - откуда растет линия
находим направление от центра до курсора N={Xm-Xc;Ym-Yc}
теперь делаем вектор единичной длины {Xv, Yv} = {Xm-Xc;Ym-Yc} /sqrt( (Xm-Xc)^2 + (Ym-Yc)^2 )
теперь "удлиняем" наш вектор до нужной нам длины {Xr,Yr}={Xv*L;Yv*L}
Ну и рисуем Line(Xc, Yc, Xc+Xr,Yc+Yr)