Нейросеть натренировать можно, а вот шерсть с ладошек после этого не выведешь ;)
Если серьезно - усилия для сколько-нибудь успешного решения такой задачи многократно превысят усилия по модерации в любом обозримом времени. Роботы неизбежно будут применять тупые алгоритмы и выдавать ложные срабатывания, если у вас нет big data размером с весь Яндекс.Диск.
Купидонов, одетых в крылышки, робот забанит, а негров, насилующих корову - нет.
Лукьяненко еще двадцать лет назад иронизировал по этому поводу:
- Знаете, вводили такую международную программу: "СРАМ"?
Качаю головой. Нет, не помню.
- Она должна была отслеживать преступников по ключевым словам в электронной переписке, - морщась, поясняет Томилин. - А торговцев порнографией - по розовому цвету голых тел в видеороликах... И знаете, что произошло? Возникла мода - каждое, самое невинное письмо, писать на розовом фоне и сопровождать лозунгами, шапкой из фраз вроде "НЕТ ТЕРРОРИЗМУ! ВЗРЫВЧАТКУ ДОЛОЙ ИЗ ЖИЗНИ! НАРКОТИКИ - НЕ НАШ ВЫБОР, ПОКУПАЙТЕ ЙОГУРТ!" Через полгода программу свернули.
