Из пятеричной в десятичную (25+5+2 =32), из десятичной в шестнадцатеричную (32 = 0x20 = 0x10*2), делим 0x8F10ABC76 на 0x20 - сначала нацело на 0x10 (получится 0x8F10ABC7), потом на 0x2 (все делить не обязательно, смотрим только последнюю цифру, 7/2 = 3), ответ 3
P.S. написал за 2 минуты без калькулятора. Вам дается 10. Халява ж.