Есть ли система, способная разпознавать и блокировать нецензурные фотки при их загрузке на сайт?

Question

[pavelberg]

Есть сайт объявлений недвижимости.
Юзеры свободно загружают фотки. Админа нет, проверка не ведется, то есть гипотетически кто-то может поставить нецензурную фотку и она появится в каталоге. Возможно ли на лету использовать какой-то плагин или инструмент, который распознает загружаемые фотки и проверяет их на элемент ну хотя-бы пошлятины?

Comments

[Arris]

А что такое пошлятина? Вы уверены, что пошлятина для вас и для меня - это одна и та же пошлятина? :)

[pavelberg]

)

Answer 1

[Dimonchik]

"nudity detect" поищите, есть под разные языки, например
www.patrick-wied.at/static/nudejs

Comments

[Сергей Горностаев]

Автору вопроса надо учесть, что метод медленный и не гарантирует 100% точности.

Answer 2

[xmoonlight]

Если просто делать:
1. Ищем цветовые диапазоны и замкнутые области (с площадью не менее заданных) кожных оттенков на фото.
2. При превышении порога - считаем, что там изображено обнажённое тело.

Если делать правильно:
Используем контурную и цветовую сегментацию изображения и нейросеть с последующим постепенным обучением: где пристойные фото, а где - нет.

На первое время (пока возможны ложные срабатывания, т.к. нейросеть еще недостаточно обучена) самым активным пользователям можно выдать права голосования при успешном прохождении фильтра.

Проценты диапазонов пристойного изображения (при количестве голосовавших >=5):
1. От 0-33% - отсеиваем
2. От 34-66% (включительно!) и проголосовали ВСЕ, кто может голосовать -> на модерацию администратору (этот случай очень редкий)
3. От 67% и более -> пропускаем (изображение нормальное)

Comments

[Dimonchik]

на самом деле в недвижимости картинки можно и по гистограмме отсеять от "фото с людьми", не доводя до SIFT, и nudity c использованием OpenCV помощнее будет, и физиономию просто можно подетектить, но ТС нужна одна кнопка, это сужает выбор

[xmoonlight]

dimonchik2013: ну в плане "отсеять по гистограмме" - это домыслы. А физиономия - никому не нужна, т.к. ничем здесь не поможет. Здесь нужно исключительно универсальное решение, способное отсеивать с максимальной точностью или же руками доверенных пользователей/фрилансеров.

[Dimonchik]

xmoonlight: э.. Вы много видели на фотках недвижимости физиономий? то же и с гистограммой - сравните прон и те самые фото

[xmoonlight]

dimonchik2013: я просто не могу отследить зависимость: недфижимости, прона и физиономий?) Пошлось можно и без физиономий запостить на стенке недвижимости)

Answer 3

[donflash]

Совсем недавно вышел сервис от гугла
https://cloud.google.com/vision/

Посмотрите раздел "Detect Inappropriate Content"

Answer 4

[AntHTML]

Автоматически никак, т.к. на любую гайку найдется болт с обратной резьбой. Проще всего и выгоднее посадить модератора, который будет просто прощелкивать объявления с фотками в пре-модерации, если объемы большие то зарегистрированных пользователей имеющих хорошую карму можно наделить автомодерацией, а новичков желательно вручную. Тем более найти модератора на такую задачу не составит труда.

Comments

[Артем]

А если грузятся порядка десятков миллионов фоток в месяц? Что в этом случае?

[AntHTML]

Артем: Пара десятков миллионов, это уже не просто доска объявлений провинциального городка, а вполне состоятельный и раскрученный портал, который не в состоянии поддерживать только один администратор. У таких сайтов обычно есть стабильный доход от рекламы и доната платных услуг, так что у таких проектов есть не только модераторы но и множество других работников для обеспечения работы сайта.
Да и 10 000 000 фоток объявлений недвижимости, пускай их будет по 10 в каждом объявлении = 1 000 000 объявлений в месяц - простите это уже масштабы Яндекса или Авито, а у них, как известно, целые штаб-квартиры народу, в том числе и на модерации. Тем более на модерацию картинок можно легко набрать удаленщиков без опыта и спец.знаний (щелкай картинки на принять/отклонить). Таким макаром можно отсеивать не только эротику/рекламу, но и явное несответствие изображений теме объявления

Answer 5

[trevoga_su]

сайт о недвижимости. кому там фотки понадобится такие выставлять?

есть сайт веселый, фотострана. там картинке на облаке хранятся.
количество извращенцев и любительского ню в альбомах зашкаливает
они там спасаются модерацией, но альбомы модерируют лишь те, которые публичные. в приватные альбомы можно что угодно грузить и девочки грузят.

Далее, ни один алгоритм не даст 100% гарантии. Попробуйте поискать вот эту картинку в Гугле. Даже гугл ошибется и выдаст мужской торс и лицо, сказав что эти фото похожи на эти сиськи.

Answer 6

[Иван]

Одно из самых простых и малозатратных решений - кнопка "сообщить о спаме". Просто пользователи могут не только пошлятину заливать, но и котиков например.
Ну а вообще подобный сайт без модерации ИМХО плохая идея.

Answer 7

[Web Developer Blog]

nudity detect лучший но все равно что то да и будет пролазить

Answer 8

[liks]

Можно сделать как описывает dimonchik2013 ,настроить в ней самое жесткое фильтрование, а на неоднозначные или неподдающиеся классификации картинки посадить модера, так, как описал это AntHTML ,а если всё таки проскочит такая картинка к пользователям, то первому пользователю обнаружившему такую картинку давать +1 к чему-то, которые можно обменять на плюшки в Вашем сайте, ну и ввести ачивки можно...

Answer 9

[Light Air]

Для этих целей можно использовать нейронную сеть.
https://habrahabr.ru/post/158729/