Как определить алгоритмом нежелательный контент?

Question

[Альберт Ушаков]

Делаю приложение с одной из функций публикации постов где есть картинки.
В сети очень скудное количество статей на эту тему. Если у кого есть варианты, буду благодарен за отзывчивость и помощь.
Интересует алгоритм, возможно готовые плагины или же сервисы API с нейро сетью, которая смогут определять в процентном соотношении по тематикам цензуры.
И возможно ли это реализовать в оффлайн виде? На стороне клиента.

Answer 1

[Алексей Скляров]

Попробуйте почитать это: https://cloud.google.com/vision/docs/detecting-saf...

Answer 2

[Антон Шаманов]

смогут определять в процентном соотношении по тематикам цензуры

обучать слишком долго т.к. критерии довольно размытые, можешь попробовать https://cloud.yandex.ru/services/vision

И возможно ли это реализовать в оффлайн виде? На стороне клиента

а смысл? пользовательские данные придется перепроверять.