С версии 2.1.0 при отсутствии физического файла
robot.txt введена функция
do_robots()
, которая создает динамический файл
robots.txt. Для добавления своих правил вы можете использовать хук
robots_txt
add_filter( 'robots_txt', 'add_robotstxt', -1 );
function add_robotstxt( $text ) {
$text .= "Disallow: */comments";
return $text;
}
Правильнее управлять файлом именно через функцию, а не через физический файл, т.к. это даст возможность SEO-плагинам тоже изменять ваш
robots.txt
Создание XML-карты сайта появилось в версии WordPress 5.5, она доступна по адресу
/wp-sitemap.xml с редиректами. На wp-kama есть
отличная статья с подробным описанием функционала