if response != 'МАТЕМАТИКА' or response КАКОЙ-ТО ЗНАК 'РУССКИЙ ЯЗЫК':
В вашем коде получается условие: если ответ != 'математика' или 'русский язык'. В питоне принято считать, что не пустая строка всегда истинна => ваше первое условие будет выполняться всегда
Для того, чтобы найти нужную беседы - воспользуйтесь "messages.getConversations". Там будет список бесед со всеми параметрами, из которых вы сможете достать нужный ID с помощью названия беседы
Для того, чтобы удалить человека по команде - просто добавьте подобное условие if user_id==admin_id and mess_user = 'kick':
Если пользователь, который отправил сообщений - админ и его сообщение = "кик" - предпринять какие-то действия