В качестве аргумента operation можно принимать оператор как функцию из модуля
operator, что, на мой взгляд, будет лучше.
import operator
def arithmetic(a: int, b: int, operation):
if operation not in (operator.add, operator.sub, operator.mul, operator.truediv):
print('Unknown operation')
else:
print(operation(a, b))
arithmetic(1, 2, operator.mul)
При необходимости задания операторов через символы можно создать словарь, в котором хранить символы операторов и их функции:
operators = {
'+': operator.add,
'-': operator.sub,
'*': operator.mul,
'/': operator.truediv
}
arithmetic(1, 2, operators['*'])