alexxandr

f(N, m) = (N div 10^(m-1)) mod 10
div - целочисленное деление
mod - взятие остатка
N - число
m - номер цифры
a.e:
N = 1324
m = 3
1324 / 100 = 13
13 % 10 = 3

scanf("%d",a);
измените на
scanf("%d",&a);

и
scanf("%d",b);
на
scanf("%d",&b);