Из-за чего может быть ошибка 404 по адресу sitename.ru/robots.txt?
Всем привет!
У меня такая проблема. На сайте установлена CMS Wordpress. Файл robots.txt лежит в корне сайта, но при переходе по прямой ссылке выдается ошибка 404. На сайте стояли плагины по безопасности, есть подозрение, что где то прописался запрет на прямой доступ к файлу или файлам такого типа. В .htaccess ничего не прописано. Подскажите пожалуйста, в чем может быть причина, где посмотреть?
Листинг файла .htaccess
# BEGIN WordPress
WordPress сам прекрасно генерирует виртуальный "robots.txt", до него можно добраться, и в ручную через functions.php, и через плагины. Чаще всего доступ к нему закрывают SEO плагины и страницы с похожим названием (например www.site_name.com/robots).
А то что яндекс через свою проверку написал "не удалось загрузить robots.txt", это он именно про файл? То есть виртуальный robots все равно может регулировать, что индексировать, а что нет?