Раз собеседуется программист-математик, то и задание должно быть из этой области. Что-нибудь из того, что ему предстоит решать, но что-нибудь простое, что реально быстро реализовать.
Если дать небольшой кусок говнокода, то можно посмотреть, насколько быстро он сможет расковырять чужой код. С другой стороны, математик будет решать задачи, решения которых у вас ещё нет (иначе зачем вам именно математик, а не просто программист?), так что лучше проверить именно его математическую подготовку. Небольшой фрагмент его будущей работы был бы идеальным вариантом, но это маловероятно, потому что надо решить задачу быстро, а это в принципе невозможно из-за необходимых исследований... Короче, не изобретай велосипед.) Попроси реализовать умножение матриц методом гаусса, чтобы посмотреть на знание языка и какие-нибудь математические вопросы. Не надо пугать джуниоров.)