Все сервисы Хабра
Сообщество IT-специалистов
Ответы на любые вопросы об IT
Профессиональное развитие в IT
Закрыть
Задать вопрос
Torvolf
@Torvolf
Яндекс
robots.txt
Почему яндекс индексирует запрещенные страницы?
На сайте установлено правило в роботс.тхт
Disallow: /portfolio/?
Disallow: /proekt?
Но яндекс все равно индексирует такие страницы как
https://site.ru/portfolio/stellazh-foto-12/
https://site.ru/portfolio/peregorodka-foto-40/
Почему? Что-то неверно указано в правилах?
Вопрос задан
более двух лет назад
387 просмотров
1
комментарий
Подписаться
1
Простой
1
комментарий
Facebook
Вконтакте
Twitter
Lynn «Кофеман»
@Lynn
А зачем там вопросительные знаки?
Написано
более двух лет назад
Помогут разобраться в теме
Все курсы
Нетология
Python-разработчик с нуля
6 месяцев
Далее
Skillfactory
DevOps-инженер
6 месяцев
Далее
Яндекс Практикум
Python-разработчик
10 месяцев
Далее
Решения вопроса
0
Пригласить эксперта
Ответы на вопрос
2
Виктор Петров
@vpetrov
частный SEO-специалист
Выше уже сказали, что директивы оформлены с ошибками.
Отмечу нюанс: robots.txt управляет сканированием, не индексацией. Это совершенно разные вещи.
Ответ написан
более двух лет назад
Комментировать
Нравится
1
Комментировать
Facebook
Вконтакте
Twitter
Алексей
@mrkaban
СЗИ от НСД / СКЗИ / ViPNet / Python / Django / SEO
В яндекс вебмастере есть инструмент проверки роботс, с его помощью проверь запрещаются ли конкретные урлы через роботс
Ответ написан
более двух лет назад
Комментировать
Нравится
Комментировать
Facebook
Вконтакте
Twitter
Ваш ответ на вопрос
Войдите, чтобы написать ответ
Войти через центр авторизации
Похожие вопросы
Linux
+1 ещё
Простой
Как установить «Госплагин» в Яндекс-браузер на Debian 12?
1 подписчик
10 нояб.
453 просмотра
1
ответ
Яндекс
+2 ещё
Средний
Как работает аутентификация Яндекса через QR-код?
1 подписчик
28 окт.
193 просмотра
1
ответ
Windows
+3 ещё
Средний
Как решить проблему с доступами на устройства в Яндекс Браузере?
1 подписчик
08 окт.
272 просмотра
0
ответов
Яндекс
Простой
Сколько живёт ссылка в Яндекс телемост?
1 подписчик
28 сент.
384 просмотра
2
ответа
Электронная почта
+3 ещё
Средний
Как настроить получение SMTP command pipelining?
1 подписчик
17 сент.
101 просмотр
0
ответов
Яндекс
Простой
Как поделиться данными Яндекс-формы?
1 подписчик
03 сент.
730 просмотров
1
ответ
Яндекс
Простой
Как убрать цветную кляксу в центре страницы яндекс музыки?
1 подписчик
31 авг.
471 просмотр
2
ответа
Яндекс
Простой
Где скачать файл «YandexGPT-5-Lite-8B-instruct-Q4_K_M.gguf»?
1 подписчик
29 авг.
210 просмотров
2
ответа
Поисковая оптимизация
+3 ещё
Простой
Как убедиться, что одностраничный сайт (SPA) корректно индексируется поисковыми системами Google и Яндекс?
7 подписчиков
26 авг.
1636 просмотров
3
ответа
HTML
+3 ещё
Простой
Как отменить инвертирование текста в yandex почте в dark mode?
2 подписчика
19 авг.
233 просмотра
1
ответ
Показать ещё
Загружается…
Вакансии с Хабр Карьеры
Ведущий интернет-маркетолог
Парк «Сказка»
•
Москва
от 250 000 до 350 000 ₽
Инженер данных в Плюс Фантех
Яндекс
•
Москва
от 300 000 до 490 000 ₽
Маркетолог (B2C направления)
Prosox
от 800 до 1 500 $
Минуточку внимания
Войдите на сайт
Чтобы задать вопрос и получить на него квалифицированный ответ.
Войти через центр авторизации
Закрыть
Реклама