Система распознавания «плохих» фотографий. Как реализовать?

Question

[JackShcherbakov]

Здравствуйте!

Допустим есть сайт, где все пользователи могу загружать фотографии. И последние фотографии пользователей отображаются на главной странице. Но некий пользователь решил напакостить, загрузив на сайт фотографии непристойного содержания.

Вопрос:

Возможно ли, без участия модерации, распознавать, что пользователь загрузил что-то плохое и тут же банить его. Есть ли готовые решения?

Заранее выражаю огромную благодарность всем, кто поможет!

Answer 1

[Adamos]

Нейросеть натренировать можно, а вот шерсть с ладошек после этого не выведешь ;)
Если серьезно - усилия для сколько-нибудь успешного решения такой задачи многократно превысят усилия по модерации в любом обозримом времени. Роботы неизбежно будут применять тупые алгоритмы и выдавать ложные срабатывания, если у вас нет big data размером с весь Яндекс.Диск.
Купидонов, одетых в крылышки, робот забанит, а негров, насилующих корову - нет.
Лукьяненко еще двадцать лет назад иронизировал по этому поводу:

- Знаете, вводили такую международную программу: "СРАМ"?
Качаю головой. Нет, не помню.
- Она должна была отслеживать преступников по ключевым словам в электронной переписке, - морщась, поясняет Томилин. - А торговцев порнографией - по розовому цвету голых тел в видеороликах... И знаете, что произошло? Возникла мода - каждое, самое невинное письмо, писать на розовом фоне и сопровождать лозунгами, шапкой из фраз вроде "НЕТ ТЕРРОРИЗМУ! ВЗРЫВЧАТКУ ДОЛОЙ ИЗ ЖИЗНИ! НАРКОТИКИ - НЕ НАШ ВЫБОР, ПОКУПАЙТЕ ЙОГУРТ!" Через полгода программу свернули.

Comments

[JackShcherbakov]

Хах, отличный ответ : ) Ну самый банальный пример - портфолио фрилансеров. Таких за день появляется ну, допустим, 1000 штук (в каждом портфолио от 2-х фото). Ну и сколько надо платить человеку, чтобы он по 2000 фотографий ежедневно проверял. Чтобы проверить 2000 фото за 8 рабочих часов, человек БЕЗ ОСТАНОВКИ надо уделять по 14 секунд на каждое фото.

[Adamos]

JackShcherbakov, нет. Достаточно скрывать эти фото до модерации, а зашедшему модератору выводить простыню миниатюр, из которой неподобающее удаляется одним кликом, а все остальное подтверждается - вторым.

[JackShcherbakov]

Ну так. Ничего не меняется. Как было по 14 сек на каждое фото так и остается. Рабский труд.

[JackShcherbakov]

Adamos, То есть несчастный модератор должен сидеть и весь день смотреть портфолио? Сомнительная затея : )

[Adamos]

JackShcherbakov, на экран влезет пятьдесят-сто миниатюр. Вам же не пейзажи присылают, а фото типа "на паспорт". Чтобы бегло, одним взглядом, отсеять похабщину, потребуются буквально секунды.
Не зацепило ничего глаз - одной кнопкой одобрил эту сотню.
Можете нанять фрилансера-неумеху на эту тупую работу, не требующую принципиально никаких навыков.

[JackShcherbakov]

Хотя да, вы правы. Можно еще проще сделать. Просто пролистать все 2к фото за часик и выбрать плохие и все остальные одной кнопкой подтвердить.

[Moskus]

JackShcherbakov, а ещё можно вообще ничего не делать и удалять изображения только по жалобам, конечно же - немедленно.

Answer 2

[dev null]

Возможно, нужно натренировать нейросеть, но результат не 100%. Есть и готовые решения, допустим из этого списка (работоспособность не проверял). https://ourcodeworld.com/articles/read/582/top-5-b...

Comments

[JackShcherbakov]

Хм, интересно. Хороший вариант.