Если вы играете со всякими Джекиллами, то скорее всего, и Apache у вас свежий, версии 2.4.
В нём директивы 
order, 
allow и 
deny стали deprecated.
Сейчас ограничения по IP-адресу пишутся примерно так: 
# Полные адреса
Require ip 10.1.2.3
Require ip 192.168.1.104 192.168.1.205
# Части адресов
Require ip 10.1
Require ip 10 172.20 192.168.2
# CIDR
Require ip 10.1.0.0/16
Либо так: 
<RequireAny>
  Require ip 111.x.x.x
  Require ip 122.x.x
  Require ip 133.x
</RequireAny>
robots.txt для вашей задачи не подходит. 
Мало того, что сейчас много краулеров его банально игнорируют (даже гугл может сам решить, что проиндексировать стоит), так ещё есть и такие, кто в нём ищет какие директории владелец сайта хочет скрыть.