Задать вопрос
Akdmeh
@Akdmeh
PHP, Yii2, Music

Скачивает ли поисковый робот музыкальные файлы?

Добрый день!
Представим, что есть сайт, на котором хранятся ссылки на музыкальные файлы.
На сайт попадает поисковый робот и видит все эти ссылки. Будет ли он по них переходить?
Если да - будет ли качать все файлы, или увидит, что заголовок равен audio/mpeg, на чем его скачивание прекратится?
Я так понимаю, есть смысл отключить определенную папку с файлами в robots.txt, чтобы паук в них не лез?
  • Вопрос задан
  • 388 просмотров
Подписаться 2 Оценить Комментировать
Помогут разобраться в теме Все курсы
  • Skillbox
    Профессия Интернет-маркетолог с нуля до PRO
    7 месяцев
    Далее
  • МИПО
    Интернет-маркетинг
    5 месяцев
    Далее
  • Digital Skills Academy
    SEO-продвижение
    1 месяц
    Далее
Пригласить эксперта
Ваш ответ на вопрос

Войдите, чтобы написать ответ

Похожие вопросы