Есть ли система, способная разпознавать и блокировать нецензурные фотки при их загрузке на сайт?

Есть сайт объявлений недвижимости.
Юзеры свободно загружают фотки. Админа нет, проверка не ведется, то есть гипотетически кто-то может поставить нецензурную фотку и она появится в каталоге. Возможно ли на лету использовать какой-то плагин или инструмент, который распознает загружаемые фотки и проверяет их на элемент ну хотя-бы пошлятины?
  • Вопрос задан
  • 2627 просмотров
Решения вопроса 3
dimonchik2013
@dimonchik2013
...встаю, одеваюсь, завтракаю и еду домой...
"nudity detect" поищите, есть под разные языки, например
www.patrick-wied.at/static/nudejs
Ответ написан
xmoonlight
@xmoonlight Куратор тега PHP
https://sitecoder.blogspot.com
Если просто делать:
1. Ищем цветовые диапазоны и замкнутые области (с площадью не менее заданных) кожных оттенков на фото.
2. При превышении порога - считаем, что там изображено обнажённое тело.

Если делать правильно:
Используем контурную и цветовую сегментацию изображения и нейросеть с последующим постепенным обучением: где пристойные фото, а где - нет.

На первое время (пока возможны ложные срабатывания, т.к. нейросеть еще недостаточно обучена) самым активным пользователям можно выдать права голосования при успешном прохождении фильтра.

Проценты диапазонов пристойного изображения (при количестве голосовавших >=5):
1. От 0-33% - отсеиваем
2. От 34-66% (включительно!) и проголосовали ВСЕ, кто может голосовать -> на модерацию администратору (этот случай очень редкий)
3. От 67% и более -> пропускаем (изображение нормальное)
Ответ написан
donflash
@donflash
Совсем недавно вышел сервис от гугла
https://cloud.google.com/vision/

Посмотрите раздел "Detect Inappropriate Content"
Ответ написан
Пригласить эксперта
Ответы на вопрос 6
anthtml
@anthtml
Системный администратор программист радиолюбитель
Автоматически никак, т.к. на любую гайку найдется болт с обратной резьбой. Проще всего и выгоднее посадить модератора, который будет просто прощелкивать объявления с фотками в пре-модерации, если объемы большие то зарегистрированных пользователей имеющих хорошую карму можно наделить автомодерацией, а новичков желательно вручную. Тем более найти модератора на такую задачу не составит труда.
Ответ написан
trevoga_su
@trevoga_su
сайт о недвижимости. кому там фотки понадобится такие выставлять?

есть сайт веселый, фотострана. там картинке на облаке хранятся.
количество извращенцев и любительского ню в альбомах зашкаливает
они там спасаются модерацией, но альбомы модерируют лишь те, которые публичные. в приватные альбомы можно что угодно грузить и девочки грузят.

Далее, ни один алгоритм не даст 100% гарантии. Попробуйте поискать вот эту картинку в Гугле. Даже гугл ошибется и выдаст мужской торс и лицо, сказав что эти фото похожи на эти сиськи.
Ответ написан
@LiguidCool
Одно из самых простых и малозатратных решений - кнопка "сообщить о спаме". Просто пользователи могут не только пошлятину заливать, но и котиков например.
Ну а вообще подобный сайт без модерации ИМХО плохая идея.
Ответ написан
Alexey_Suprun
@Alexey_Suprun
Web Developer Blog - ссылка в описании
nudity detect лучший но все равно что то да и будет пролазить
Ответ написан
@liks
Можно сделать как описывает dimonchik2013 ,настроить в ней самое жесткое фильтрование, а на неоднозначные или неподдающиеся классификации картинки посадить модера, так, как описал это AntHTML ,а если всё таки проскочит такая картинка к пользователям, то первому пользователю обнаружившему такую картинку давать +1 к чему-то, которые можно обменять на плюшки в Вашем сайте, ну и ввести ачивки можно...
Ответ написан
Ваш ответ на вопрос

Войдите, чтобы написать ответ

Войти через центр авторизации
Похожие вопросы
Farpost Владивосток
от 100 000 до 160 000 ₽
Cloud4Y Ярославль
от 65 000 до 130 000 ₽
от 80 000 до 120 000 ₽
26 февр. 2020, в 01:14
600 руб./в час
26 февр. 2020, в 01:13
1500 руб./за проект
25 февр. 2020, в 23:26
100000 руб./за проект