Задать вопрос
Автор телеграм канала Rocket Academy и одноимённого блога (https://rocket-academy.pro/). Руководитель в агентстве поискового маркетинга Rocket Agency (https://rocket-agency.pro/). Создатель инструментов для SEO-специалистов и маркетологов Rocket Tools (https://rocket-tools.pro/).
Контакты
Местоположение
Россия, Санкт-Петербург и область, Санкт-Петербург

Наибольший вклад в теги

Все теги (1)

Лучшие ответы пользователя

Все ответы (1)
  • Какой будет правильный Robots.txt для Wordpress (привел пример структуры)?

    temnu
    @temnu
    SEO-специалист
    Здравствуйте. Закрывать страницы с параметрами "?" в URL (включая UTM-метки) это плохая идея, так показатели страниц с параметрами не будут подклеиваться к основным страницам.

    Хорошей идеей будет настроить rel=canonical и составить XML карту сайта с корректными версиями URL, это позволит избежать индексации страниц с параметрами и "подклеить" их к основным версиям страниц (без параметров). Если сделаете это, то robots.txt получится следующий:

    User-agent: *
    Disallow: /cgi-bin # Стандартная папка на хостинге.
    Disallow: /wp-admin/ # Закрываем админку.
    Allow: /wp-admin/admin-ajax.php # Откроем аякс.
    Disallow: *?s= # Поиск.
    Disallow: *&s= # Поиск.
    Disallow: /search # Поиск.
    Disallow: /author/ # Архив автора.
    Disallow: */embed$ # Все встраивания.
    Disallow: */xmlrpc.php # Файл WordPress API

    Sitemap: https://example.com/sitemap.xml
    Sitemap: https://example.com/sitemap.xml.gz

    Также можно сгенерировать Clean-Param (его учитывает Яндекс) и включить его в конце файла robots.txt, после директив Sitemap.
    Ответ написан
    Комментировать