Путь AuthUserFile должен быть полным. Вызовите в скрипте __DIR__ посмотрите какой путь получится.
AuthType Basic
AuthName "Thats protected Area!"
AuthUserFile /var/path/to/htdocs/site.ru/.htpasswd
Require valid-user
<Files .htpasswd>
deny from all
</Files>