Нужно ограничивать до того, как траффик зафлудит ваш канал.
Два варианта:
1) Использовать сервис, через который проходит весь траффик между клиентом и сервером. Сервис будет резать плохой траффик. Пример популярных и недорогих - Cloudflare, Incapsula.
2) Для желающих, умеющих и/или людей с паранойей (так так сервисы из пункта 1 должны расшифровывать траффик) - делать это самому. Т.е. купить железо с портом на 10 (100, 1000) ГБ и фильтровать.