На самом деле ты просто не возвращаешь ничего из функции, из этого и ошибка, ведь нельзя проверить наличие юзера в списке, если этого списка не существует
def check_kf(peer_id:int) -> list:
return authorize.method("messages.getConversationMembers", {
"peer_id": peer_id
})["items"]