@mr-zherart

Fb Crawler не может спарсить страницу, в чем может быть причина?

Проблема в следующем, fb crawler не может скрапить страницу по url. Ошибка 404. Это видно когда добавляешь url в пост, а также при постинге страницы в fb instant articles.
В дебагере https://developers.facebook.com/tools/debug/sharing/ если первый раз забивать ссылку ошибка 404, второй раз подгружает все без картинки, третий раз подгружает все с картинкой в том числе.
Сайт wordpress на базе nginx.

Access.log никаких ошибок 404 для facebookexternalhit не выдает.
В nginx раньше был конфиг ниже, но сейчас я его на всякий случай убрал, facebookexternalhit по идее ничего не блочит.
if ($http_user_agent ~* msnbot|scrapbot) {
	return 403;
}

Все opengraph теги выставлены YOAST. Плагин деактивировал активировал, без толку.

Частично получилось решить проблему костылем в футер страницы добавил
<iframe style="width: 0px; height: 0px; margin: 0px; padding: 0px;" src="https://www.facebook.com/sharer/sharer.php?u=http%3A%2F%2Fwww.mysite.com"></iframe>

При вставке ссылки в пост на фб все срабатывает мгновенно, в Instant Articles до сих проблема (не может спарсить инфу по просматриваемым материалам везде "страница не найдена").

К слову, проблемы начались когда сделал апгрейд дроплета на digitalocean на более мощный.
Те кто сталкивался, просветите, в чем загвоздка то?
  • Вопрос задан
  • 130 просмотров
Пригласить эксперта
Ваш ответ на вопрос

Войдите, чтобы написать ответ

Войти через центр авторизации
Похожие вопросы