garillka

1) И обнаруживать, и банить можно и нужно на нескольких уровнях.
Грубые атаки обнаруживать командой ss (не netsat!).
Безусловную блокировку делать через ipset (не iptables!).
Через nginx обнаруживать хитрые атаки, блокировать подозрительные.

2) В качестве отправной точки ищите в Гугле "site:habrahabr.ru nginx ipset".
Особо рекомендую habrahabr.ru/post/139931

3) Не пытайтесь сразу построить идеальную защиту.
Начните с простейшей и постепенно совершенствуйте.

4) Если вы не крутой спец по антиддосу, абсолютная защищенность недостижима. Можно только повысить порог пробития.

Поднимаете tarantool, и считайте в реальном времени по сессяим
Разбейте на группы, те кто парсят в тупую без таймаута - банить за N реквестов в минуту,
те кто парсят с таймаутом - банить за M реквестов в час например
Так вы не забаните провайдера например или мобильного оператора

Ну или не баньте, а капчу показывайте на отдельной странице

UPD. На тостере видимо отвалились комментарии к ответу)
Да, это nosql база от mail.ru
https://github.com/tarantool/tarantool
tarantool.org/doc/user_guide - доки