Как отслеживать сообщения, содержащие оскорбительный характер, содержащих элементы насилия и тд.?
Здравствуйте.
Есть проект - соц. сеть с открытыми дискуссиями. Возникла проблема с тем, что нужно модернизовать эти самые дискуссии. Вопрос в следующем - есть ли какие то готовые методы для оптимального обнаружения сообщений, носящих оскорбительный характер, содержащих элементы насилия, призывы к национальной вражде, порнографию... и, если есть, то какие?
Также интересует, если в сообщении указана ссылка на сторонний ресурс, содержащий запрещенные материалы и тд, то можно ли как то фиксировать эти вещи?
На счет ссылок: можно работать кардинально и вообще их запретить, если это плохой вариант для вас, тогда создайте промежуточную страницу, где будете предупреждать, что этот сайт может нанести вред вашему компьютеру, сознания и вообще там могут быть сиськи.
Если и это вас не устраивает, то попробуйте это API: https://www.mywot.com/wiki/API.
1. постмодерация — разрешите пользователям жаловаться на сообщения и реагируйте по факту жалоб.
2. существуют системы, автоматически определяющие тон сообщения и тематику, их можно научить автоматически блокировать подозрительные сообщения.
Обычно используют два этих способа. Начинают с первого и постепенно внедряют второй. Для второго 100% есть сервисы, уже реализующие нужный функционал, но они могут быть дороги. Альтернатива — разработать что-то своё, но нужен эксперт по анализу данных.
