Проведем замену
n=A*6+a
m=B*6+b
где a, b принадлежат {0,1,2,3,4,5}
При подстановке и вычислении остатка от деления члены с A и B обнулятся.
Остаётся перебрать 6*6 вариантов для разных a и b, что нетрудно:
for a in range(6):
for b in range(6):
print((a ** 5 * b - b ** 5 * a) % 6)
зы можно, конечно, сперва помучиться, разложить выражение в
n*m*(n-m)*(n+m)*(n^2+m^2)
, но подстановку потом делать всё равно придётся ) Хотя и так очевидно, что при любых n,m либо хоть одно из них четное, либо их сумма четная. И точно так же либо одно из них делится на три, либо их сумма, либо разность.