Как лучше реализовать автоматическую модерацию / бан на сайте?

Question

[Алексей Лауд]

Есть сервис с 2-3 тысячами активных пользователей, и некоторые из них время от времени нарушают правила.
У пользователей есть возможность отправлять жалобы на других пользователей. Жалобы нескольких видов, в зависимости от типа нарушения и того, где именно нарушение произошло (в общей ленте или в личной переписке).

Как лучше реализовать автоматическую систему бана нарушителей?

Раньше это был простой подсчет количества жалоб (в зависимости от типа разные жалобы влияли по-разному), и, в случае, если жалоб достаточно, бан. Позже выяснилось, что эта система довольно часто работает ошибочно, не баня пользователей долгое время, если раньше они ничего не нарушали и иногда блокируя тех, кто просто не нравится другим пользователям.

Временно перевел все на ручной разбор жалоб, но это отнимает слишком много сил, а доверить это кому-то из пользователей или стороннему человеку я не могу, поэтому снова ищу варианты того, как все проводить автоматически.

Answer 1

[ralaton121]

Фильтр преварительный по старой системе (по количеству жалоб) - затем ручная модерация того, что прошло через фильтр