limurmurmur, ну а реализацию остальных операций тоже делали с учетом десятичных? Как вообще реализовали? Не показали ни кода, ни попыток реализовать деление.
обработчик кнопок btn1-3 нужен не там, где комментарий стоит, а уровнем выше. Т.е. начиная со строки if call.data == 'btn1' or 'btn2' or 'btn3':
смещаешь влево и меняешь if на elif.
Но и тут начнутся приключения. Конкретно в том же условии if call.data == 'btn1' or 'btn2' or 'btn3':
Подсказка: это условие всегда выполнится. Причина - не пытайся перевести родную речь напрямую в код. Дальше думай сама
Про название переменной call тебе уже говорили, она не инициализирована.
вроде как для разных ботов file_id будет разный. Попробуйте через юзербота отправить это фото боту на telebot. И уже там посмотрите какой у этого фото file_id.
а как пытались реализовать? Покажите хоть, может там совсем чуть подправить. А иначе это как задание звучит, а это уже на другой ресурс обращаться стоит