Есть сайт, главная страница - site.com/en или site.com/ru
На главной странице есть табы, первый из них, это собственно сама главная страница - site.com/en (все материалы), второй таб - site.com/en/questions/unanswered (выборка из всех материалов т.е. дубли)
Поисковикам необходимо заблокировать доступ к дублям - site.com/en/questions/unanswered
Т.е. если пропишу так Disallow: /en/questions/unanswered/ , то еще и заблокирую последующий контент (например: /en/questions/unanswered/content_12314)?
Disallow: /cgi-bin/
Обратите внимание на / в конце названия директории! Чтобы запрещать посещение именно каталога "/dir", инструкция должна иметь вид: "Disallow: /dir/". А строка "Disallow: /dir" запрещает посещение всех страниц сервера, полное имя которых (от корня сервера) начинается с "/dir". Например: "/dir.html", "/dir/index.html", "/directory.html".