Как лучше реализовать автоматическую модерацию / бан на сайте?
Есть сервис с 2-3 тысячами активных пользователей, и некоторые из них время от времени нарушают правила.
У пользователей есть возможность отправлять жалобы на других пользователей. Жалобы нескольких видов, в зависимости от типа нарушения и того, где именно нарушение произошло (в общей ленте или в личной переписке).
Как лучше реализовать автоматическую систему бана нарушителей?
Раньше это был простой подсчет количества жалоб (в зависимости от типа разные жалобы влияли по-разному), и, в случае, если жалоб достаточно, бан. Позже выяснилось, что эта система довольно часто работает ошибочно, не баня пользователей долгое время, если раньше они ничего не нарушали и иногда блокируя тех, кто просто не нравится другим пользователям.
Временно перевел все на ручной разбор жалоб, но это отнимает слишком много сил, а доверить это кому-то из пользователей или стороннему человеку я не могу, поэтому снова ищу варианты того, как все проводить автоматически.
