RADE95

Решено. Всем спасибо!
c = new Vector2(a.x, (b - a).magnitude * Mathf.Tan(maxAngle * Mathf.Deg2Rad) + a.y);
где a - A, b - B, c - C, maxAngle - a