Все сервисы Хабра
Сообщество IT-специалистов
Ответы на любые вопросы об IT
Профессиональное развитие в IT
Закрыть
Задать вопрос
Torvolf
@Torvolf
Яндекс
robots.txt
Почему яндекс индексирует запрещенные страницы?
На сайте установлено правило в роботс.тхт
Disallow: /portfolio/?
Disallow: /proekt?
Но яндекс все равно индексирует такие страницы как
https://site.ru/portfolio/stellazh-foto-12/
https://site.ru/portfolio/peregorodka-foto-40/
Почему? Что-то неверно указано в правилах?
Вопрос задан
более двух лет назад
353 просмотра
1
комментарий
Подписаться
1
Простой
1
комментарий
Facebook
Вконтакте
Twitter
Lynn «Кофеман»
@Lynn
А зачем там вопросительные знаки?
Написано
более двух лет назад
Решения вопроса
0
Пригласить эксперта
Ответы на вопрос
2
Виктор Петров
@vpetrov
частный SEO-специалист
Выше уже сказали, что директивы оформлены с ошибками.
Отмечу нюанс: robots.txt управляет сканированием, не индексацией. Это совершенно разные вещи.
Ответ написан
более двух лет назад
Комментировать
Нравится
1
Комментировать
Facebook
Вконтакте
Twitter
Алексей
@mrkaban
СЗИ от НСД / СКЗИ / ViPNet / Python / Django / SEO
В яндекс вебмастере есть инструмент проверки роботс, с его помощью проверь запрещаются ли конкретные урлы через роботс
Ответ написан
более двух лет назад
Комментировать
Нравится
Комментировать
Facebook
Вконтакте
Twitter
Ваш ответ на вопрос
Войдите, чтобы написать ответ
Войти через центр авторизации
Похожие вопросы
Электронная почта
+1 ещё
Простой
Как зарегистрировать на один номер три и более YANDEX почты? И можно ли использовать на всех трех одинаковый пароль?
1 подписчик
28 февр.
215 просмотров
3
ответа
Электронная почта
+2 ещё
Простой
Почему Яндекс обрабатывает письмо, отправленное с одного корпоративного домена на другой?
1 подписчик
28 февр.
302 просмотра
0
ответов
Поисковая оптимизация
+3 ещё
Простой
Какой путь исправления проблемы (sitemap.xml с дублями) для Яндекс поиска правильнее?
1 подписчик
27 февр.
109 просмотров
4
ответа
Яндекс
+2 ещё
Простой
Каким образом можно получить первоначальную версию видео на YouTube, если впоследствии оно было обрезано автором?
2 подписчика
27 февр.
169 просмотров
2
ответа
Chrome
+1 ещё
Средний
Почему браузеры не дают ничего скачать?
1 подписчик
25 февр.
6076 просмотров
3
ответа
JavaScript
+2 ещё
Средний
Как программно изменить уровень звука/прогресс проигрывания в input type=range в новом интерфейсе Яндекс Музыки?
2 подписчика
22 февр.
3229 просмотров
0
ответов
Яндекс
Простой
Обход блокировки РКН? Или как это вообще работает?
1 подписчик
17 февр.
330 просмотров
1
ответ
Linux
+1 ещё
Средний
В чем ошибка при разворачивании туннеля через WireGuard в terraform на Yandex Cloud (ALT Linux)?
1 подписчик
14 февр.
142 просмотра
2
ответа
Яндекс
+2 ещё
Простой
Как убрать ошибку Microsoft Office при работе с Yandex диском подключенным через WebDAV?
1 подписчик
13 февр.
251 просмотр
1
ответ
Компьютерные сети
+2 ещё
Средний
Можно ли подключить пк к яндекс алисе, чтобы запускать дистанционно?
1 подписчик
31 янв.
539 просмотров
4
ответа
Показать ещё
Загружается…
Вакансии с Хабр Карьеры
Контекстолог / Специалист по контекстной рекламе
Wanted.
•
Москва
До 300 000 ₽
Интернет-маркетолог
UDS Group
•
Ижевск
от 100 000 ₽
Head of Marketing
Intelinvest
от 200 000 ₽
Минуточку внимания
Войдите на сайт
Чтобы задать вопрос и получить на него квалифицированный ответ.
Войти через центр авторизации
Закрыть
Реклама