Если N=20, X=3, Y=5, то наш выход — 8.
3, 5, 6, 9, 10, 12, 15, 18.
Лобовое решение — пройти [2, N) и пересчитать нужные числа.
Идея умного решения. Если X и Y гарантированно простые, то эти самые числа повторяются с шагом X·Y.
3, 5, 6, 9, 10, 12, 15
18, 20, 21, 24, 25, 27, 30
А дальше думайте сами.