потому что там должно быть имя функции а у вас ее вызов.
Имя это self.check
а вызов это self.check(2)
вот он и вызывается при создании кнопки а так как она ничего не возвращает то None присваивается команнде - нажатие на кнопку с command=None ничего не делает.
Вы захотите узнать как исправить:
можно использовать однострочную(lambda) функцию
self.answer1 = Button(
frame, text="2", command=lambda: self.check(2)
)
lambda: self.check(2) - вернет указатель на функцию которая вызовет self.check с аргументом 2 при своем вызове без каких либо аргументов и вернет результат self.check(2) если он был бы нужен.
