В такой постановке задача не имеет единственного решения.
Любая точка на окружности с центром A и радиусом, равным искомому расстоянию, будет удовлетворять твоему условию.
Тебе нужно либо хранить угол между осью X и вектором AB (полярные координаты), либо хранить отдельно вектор B - A (отдельно x и y).