Все сервисы Хабра
Сообщество IT-специалистов
Ответы на любые вопросы об IT
Профессиональное развитие в IT
Закрыть
Задать вопрос
Torvolf
@Torvolf
Яндекс
robots.txt
Почему яндекс индексирует запрещенные страницы?
На сайте установлено правило в роботс.тхт
Disallow: /portfolio/?
Disallow: /proekt?
Но яндекс все равно индексирует такие страницы как
https://site.ru/portfolio/stellazh-foto-12/
https://site.ru/portfolio/peregorodka-foto-40/
Почему? Что-то неверно указано в правилах?
Вопрос задан
более двух лет назад
385 просмотров
1
комментарий
Подписаться
1
Простой
1
комментарий
Facebook
Вконтакте
Twitter
Lynn «Кофеман»
@Lynn
А зачем там вопросительные знаки?
Написано
более двух лет назад
Помогут разобраться в теме
Все курсы
Яндекс Практикум
Python-разработчик
10 месяцев
Далее
Skillfactory
DevOps-инженер
6 месяцев
Далее
Нетология
Python-разработчик с нуля
6 месяцев
Далее
Решения вопроса
0
Пригласить эксперта
Ответы на вопрос
2
Виктор Петров
@vpetrov
частный SEO-специалист
Выше уже сказали, что директивы оформлены с ошибками.
Отмечу нюанс: robots.txt управляет сканированием, не индексацией. Это совершенно разные вещи.
Ответ написан
более двух лет назад
Комментировать
Нравится
1
Комментировать
Facebook
Вконтакте
Twitter
Алексей
@mrkaban
СЗИ от НСД / СКЗИ / ViPNet / Python / Django / SEO
В яндекс вебмастере есть инструмент проверки роботс, с его помощью проверь запрещаются ли конкретные урлы через роботс
Ответ написан
более двух лет назад
Комментировать
Нравится
Комментировать
Facebook
Вконтакте
Twitter
Ваш ответ на вопрос
Войдите, чтобы написать ответ
Войти через центр авторизации
Похожие вопросы
Windows
+3 ещё
Средний
Как решить проблему с доступами на устройства в Яндекс Браузере?
1 подписчик
08 окт.
246 просмотров
0
ответов
Яндекс
Простой
Сколько живёт ссылка в Яндекс телемост?
1 подписчик
28 сент.
261 просмотр
2
ответа
Электронная почта
+3 ещё
Средний
Как настроить получение SMTP command pipelining?
1 подписчик
17 сент.
92 просмотра
0
ответов
Яндекс
Простой
Как поделиться данными Яндекс-формы?
1 подписчик
03 сент.
530 просмотров
1
ответ
Яндекс
Простой
Как убрать цветную кляксу в центре страницы яндекс музыки?
1 подписчик
31 авг.
409 просмотров
2
ответа
Яндекс
Простой
Где скачать файл «YandexGPT-5-Lite-8B-instruct-Q4_K_M.gguf»?
1 подписчик
29 авг.
188 просмотров
2
ответа
Поисковая оптимизация
+3 ещё
Простой
Как убедиться, что одностраничный сайт (SPA) корректно индексируется поисковыми системами Google и Яндекс?
7 подписчиков
26 авг.
1626 просмотров
3
ответа
HTML
+3 ещё
Простой
Как отменить инвертирование текста в yandex почте в dark mode?
2 подписчика
19 авг.
226 просмотров
0
ответов
Яндекс
Простой
Почему Яндекс в один день может массово удалить из индекса страницы нашего сайта, которые он считает низкоценными и мало востребованными?
1 подписчик
06 авг.
205 просмотров
2
ответа
Google
+2 ещё
Простой
Почему Postfix не может отправить письмо в yandex?
2 подписчика
05 авг.
459 просмотров
2
ответа
Показать ещё
Загружается…
Вакансии с Хабр Карьеры
Java разработчик AI-проектов в Яндекс 360
Яндекс
•
Москва
от 250 000 до 450 000 ₽
Разработчик в буткемп Core Infrastructure
Яндекс
•
Москва
от 300 000 до 490 000 ₽
Разработчик бэкенда в команду коммуникационной платформы
Яндекс
•
Москва
от 300 000 до 490 000 ₽
Минуточку внимания
Войдите на сайт
Чтобы задать вопрос и получить на него квалифицированный ответ.
Войти через центр авторизации
Закрыть
Реклама