Все сервисы Хабра
Сообщество IT-специалистов
Ответы на любые вопросы об IT
Профессиональное развитие в IT
Закрыть
Задать вопрос
Torvolf
@Torvolf
Яндекс
robots.txt
Почему яндекс индексирует запрещенные страницы?
На сайте установлено правило в роботс.тхт
Disallow: /portfolio/?
Disallow: /proekt?
Но яндекс все равно индексирует такие страницы как
https://site.ru/portfolio/stellazh-foto-12/
https://site.ru/portfolio/peregorodka-foto-40/
Почему? Что-то неверно указано в правилах?
Вопрос задан
более двух лет назад
385 просмотров
1
комментарий
Подписаться
1
Простой
1
комментарий
Facebook
Вконтакте
Twitter
Lynn «Кофеман»
@Lynn
А зачем там вопросительные знаки?
Написано
более двух лет назад
Помогут разобраться в теме
Все курсы
Нетология
Python-разработчик с нуля
6 месяцев
Далее
Skillfactory
DevOps-инженер
6 месяцев
Далее
SF Education
Бэкенд-разработчик на Python
3 месяца
Далее
Решения вопроса
0
Пригласить эксперта
Ответы на вопрос
2
Виктор Петров
@vpetrov
частный SEO-специалист
Выше уже сказали, что директивы оформлены с ошибками.
Отмечу нюанс: robots.txt управляет сканированием, не индексацией. Это совершенно разные вещи.
Ответ написан
более двух лет назад
Комментировать
Нравится
1
Комментировать
Facebook
Вконтакте
Twitter
Алексей
@mrkaban
СЗИ от НСД / СКЗИ / ViPNet / Python / Django / SEO
В яндекс вебмастере есть инструмент проверки роботс, с его помощью проверь запрещаются ли конкретные урлы через роботс
Ответ написан
более двух лет назад
Комментировать
Нравится
Комментировать
Facebook
Вконтакте
Twitter
Ваш ответ на вопрос
Войдите, чтобы написать ответ
Войти через центр авторизации
Похожие вопросы
Яндекс
+2 ещё
Средний
Как работает аутентификация Яндекса через QR-код?
1 подписчик
28 окт.
159 просмотров
1
ответ
Windows
+3 ещё
Средний
Как решить проблему с доступами на устройства в Яндекс Браузере?
1 подписчик
08 окт.
260 просмотров
0
ответов
Яндекс
Простой
Сколько живёт ссылка в Яндекс телемост?
1 подписчик
28 сент.
314 просмотров
2
ответа
Электронная почта
+3 ещё
Средний
Как настроить получение SMTP command pipelining?
1 подписчик
17 сент.
94 просмотра
0
ответов
Яндекс
Простой
Как поделиться данными Яндекс-формы?
1 подписчик
03 сент.
603 просмотра
1
ответ
Яндекс
Простой
Как убрать цветную кляксу в центре страницы яндекс музыки?
1 подписчик
31 авг.
442 просмотра
2
ответа
Яндекс
Простой
Где скачать файл «YandexGPT-5-Lite-8B-instruct-Q4_K_M.gguf»?
1 подписчик
29 авг.
196 просмотров
2
ответа
Поисковая оптимизация
+3 ещё
Простой
Как убедиться, что одностраничный сайт (SPA) корректно индексируется поисковыми системами Google и Яндекс?
7 подписчиков
26 авг.
1630 просмотров
3
ответа
HTML
+3 ещё
Простой
Как отменить инвертирование текста в yandex почте в dark mode?
2 подписчика
19 авг.
230 просмотров
1
ответ
Яндекс
Простой
Почему Яндекс в один день может массово удалить из индекса страницы нашего сайта, которые он считает низкоценными и мало востребованными?
1 подписчик
06 авг.
208 просмотров
2
ответа
Показать ещё
Загружается…
Вакансии с Хабр Карьеры
Ведущий интернет-маркетолог
Парк «Сказка»
•
Москва
от 250 000 до 350 000 ₽
Инженер данных в Плюс Фантех
Яндекс
•
Москва
от 300 000 до 490 000 ₽
Маркетолог (B2C направления)
Prosox
от 800 до 1 500 $
Минуточку внимания
Войдите на сайт
Чтобы задать вопрос и получить на него квалифицированный ответ.
Войти через центр авторизации
Закрыть
Реклама