Все сервисы Хабра
Сообщество IT-специалистов
Ответы на любые вопросы об IT
Профессиональное развитие в IT
Закрыть
Задать вопрос
Torvolf
@Torvolf
Яндекс
robots.txt
Почему яндекс индексирует запрещенные страницы?
На сайте установлено правило в роботс.тхт
Disallow: /portfolio/?
Disallow: /proekt?
Но яндекс все равно индексирует такие страницы как
https://site.ru/portfolio/stellazh-foto-12/
https://site.ru/portfolio/peregorodka-foto-40/
Почему? Что-то неверно указано в правилах?
Вопрос задан
более двух лет назад
383 просмотра
1
комментарий
Подписаться
1
Простой
1
комментарий
Facebook
Вконтакте
Twitter
Lynn «Кофеман»
@Lynn
А зачем там вопросительные знаки?
Написано
более двух лет назад
Решения вопроса
0
Пригласить эксперта
Ответы на вопрос
2
Виктор Петров
@vpetrov
частный SEO-специалист
Выше уже сказали, что директивы оформлены с ошибками.
Отмечу нюанс: robots.txt управляет сканированием, не индексацией. Это совершенно разные вещи.
Ответ написан
более двух лет назад
Комментировать
Нравится
1
Комментировать
Facebook
Вконтакте
Twitter
Алексей
@mrkaban
СЗИ от НСД / СКЗИ / ViPNet / Python / Django / SEO
В яндекс вебмастере есть инструмент проверки роботс, с его помощью проверь запрещаются ли конкретные урлы через роботс
Ответ написан
более двух лет назад
Комментировать
Нравится
Комментировать
Facebook
Вконтакте
Twitter
Ваш ответ на вопрос
Войдите, чтобы написать ответ
Войти через центр авторизации
Похожие вопросы
Электронная почта
+3 ещё
Средний
Как настроить получение SMTP command pipelining?
1 подписчик
17 сент.
67 просмотров
0
ответов
Яндекс
Простой
Как поделиться данными Яндекс-формы?
1 подписчик
03 сент.
224 просмотра
1
ответ
Яндекс
Простой
Как убрать цветную кляксу в центре страницы яндекс музыки?
1 подписчик
31 авг.
311 просмотров
2
ответа
Яндекс
Простой
Где скачать файл «YandexGPT-5-Lite-8B-instruct-Q4_K_M.gguf»?
1 подписчик
29 авг.
148 просмотров
2
ответа
Поисковая оптимизация
+3 ещё
Простой
Как убедиться, что одностраничный сайт (SPA) корректно индексируется поисковыми системами Google и Яндекс?
7 подписчиков
26 авг.
1594 просмотра
3
ответа
HTML
+3 ещё
Простой
Как отменить инвертирование текста в yandex почте в dark mode?
2 подписчика
19 авг.
219 просмотров
0
ответов
Яндекс
Простой
Почему Яндекс в один день может массово удалить из индекса страницы нашего сайта, которые он считает низкоценными и мало востребованными?
1 подписчик
06 авг.
191 просмотр
2
ответа
Google
+2 ещё
Простой
Почему Postfix не может отправить письмо в yandex?
2 подписчика
05 авг.
409 просмотров
2
ответа
CSS
+3 ещё
Средний
Яндекс Браузер на MacOS: как убрать или подвинуть иконку автозаполнения?
1 подписчик
25 июл.
122 просмотра
0
ответов
Поисковая оптимизация
+3 ещё
Средний
Yandex не индексирует изображения на сайте, почему?
2 подписчика
01 июл.
814 просмотров
2
ответа
Показать ещё
Загружается…
Вакансии с Хабр Карьеры
Performance-маркетолог
DigitalHR
•
Москва
от 130 000 до 180 000 ₽
Media Buyer
DigitalHR
•
Москва
от 100 000 до 150 000 ₽
SEO-specialist
Diamond Personnel R&C
•
Москва
До 110 000 ₽
Минуточку внимания
Войдите на сайт
Чтобы задать вопрос и получить на него квалифицированный ответ.
Войти через центр авторизации
Закрыть
Реклама