Системное уравнение:
X mod A = X;
X mod B = C.
Решение:
Итерируем i от 1 до тех пор, пока X(i) <= A:
X(i) = B*i + C.
X(i) и будут корнями.
Можно найти X max.
(A - C) / B и взять целую часть - это будет i max.
Потом подставить в формулу X(i) = B*i + C, получится X max.