Все сервисы Хабра
Сообщество IT-специалистов
Ответы на любые вопросы об IT
Профессиональное развитие в IT
Закрыть
Задать вопрос
Torvolf
@Torvolf
Яндекс
robots.txt
Почему яндекс индексирует запрещенные страницы?
На сайте установлено правило в роботс.тхт
Disallow: /portfolio/?
Disallow: /proekt?
Но яндекс все равно индексирует такие страницы как
https://site.ru/portfolio/stellazh-foto-12/
https://site.ru/portfolio/peregorodka-foto-40/
Почему? Что-то неверно указано в правилах?
Вопрос задан
более двух лет назад
363 просмотра
1
комментарий
Подписаться
1
Простой
1
комментарий
Facebook
Вконтакте
Twitter
Lynn «Кофеман»
@Lynn
А зачем там вопросительные знаки?
Написано
более двух лет назад
Решения вопроса
0
Пригласить эксперта
Ответы на вопрос
2
Виктор Петров
@vpetrov
частный SEO-специалист
Выше уже сказали, что директивы оформлены с ошибками.
Отмечу нюанс: robots.txt управляет сканированием, не индексацией. Это совершенно разные вещи.
Ответ написан
более двух лет назад
Комментировать
Нравится
1
Комментировать
Facebook
Вконтакте
Twitter
Алексей
@mrkaban
СЗИ от НСД / СКЗИ / ViPNet / Python / Django / SEO
В яндекс вебмастере есть инструмент проверки роботс, с его помощью проверь запрещаются ли конкретные урлы через роботс
Ответ написан
более двух лет назад
Комментировать
Нравится
Комментировать
Facebook
Вконтакте
Twitter
Ваш ответ на вопрос
Войдите, чтобы написать ответ
Войти через центр авторизации
Похожие вопросы
Поисковая оптимизация
+2 ещё
Средний
Как лучше работать с информационным блоком на поддоменах?
2 подписчика
вчера
60 просмотров
0
ответов
Яндекс
+1 ещё
Простой
Как связать свои поля ввода адреса с картой Яндекс?
1 подписчик
13 апр.
137 просмотров
1
ответ
PHP
+2 ещё
Простой
Как получить Token для API Яндекс.Диска?
2 подписчика
06 апр.
311 просмотров
2
ответа
htaccess
+2 ещё
Простой
Вебмастер: Страницы-дубли с GET-параметрами?
1 подписчик
27 мар.
149 просмотров
3
ответа
Поисковая оптимизация
+1 ещё
Простой
Почему страницы стали «URL запрещен к индексированию» Яндексом?
1 подписчик
19 мар.
198 просмотров
1
ответ
Яндекс
Простой
Почему «Алиса» не озвучивает свой ответ в Яндекс-браузере?
3 подписчика
15 мар.
585 просмотров
1
ответ
Сетевое администрирование
+1 ещё
Простой
Как принимать запросы от яндекс форм у себя на сервере?
3 подписчика
08 мар.
371 просмотр
0
ответов
Электронная почта
+1 ещё
Простой
Как зарегистрировать на один номер три и более YANDEX почты? И можно ли использовать на всех трех одинаковый пароль?
1 подписчик
28 февр.
614 просмотров
3
ответа
Электронная почта
+2 ещё
Простой
Почему Яндекс обрабатывает письмо, отправленное с одного корпоративного домена на другой?
1 подписчик
28 февр.
397 просмотров
0
ответов
Поисковая оптимизация
+3 ещё
Простой
Какой путь исправления проблемы (sitemap.xml с дублями) для Яндекс поиска правильнее?
1 подписчик
27 февр.
141 просмотр
4
ответа
Показать ещё
Загружается…
Вакансии с Хабр Карьеры
Руководитель отдела маркетинга в IT (Edtech)
Мой Класс
от 200 000 до 250 000 ₽
Контекстолог / Специалист по контекстной рекламе
Wanted.
•
Москва
До 300 000 ₽
Дизайнер маркетинговых материалов в аналитический стартап по маркетплейсам
ТОРГСТАТ
от 40 000 до 80 000 ₽
Минуточку внимания
Войдите на сайт
Чтобы задать вопрос и получить на него квалифицированный ответ.
Войти через центр авторизации
Закрыть
Реклама