Будьте внимательны, почему вы левую часть считаете в меньшую сторону, если там интервальная скобка ( ?
(11;20] - с 12 по 20 - итого 9.
(21;31) - с 22 по 30 - итого 9.
И в итоге вариант [32;41] - он больше всех.
Потому что число 32 лежит справа от интервала (21;31), и оно не входит в него.
И 20 лежит слева от этого интервала, и тоже не входит в него.
А вам нужны только те целые числа, которые входят в этот интервал.