Просматриваю F12 (Network) в браузере и смотрю как что происходит.
Вижу, что браузер выполняет
POST запрос, просматриваю headers этого запроса и вижу что в Request Headers находятся "Токены", без которых, если делать cURL запрос я получаю ошибку, т.е. сервер проверяет наличие этих токенов.
Встает вопрос: как генерируются эти токены, покапавшись, я понимаю: эти токены генерируются через
Javascript, ниже фото нужного мне POST запроса и в
initiator я вижу ссылки на
.js, отсюда и сделал вывод что токены генерируются именно им.
Уточню, что просматривал и искал эти самые токены в предыдущих запросах, html страничке итд... пусто.. ничего не нашел.
ВОПРОС: Как парсить данные с таких сайтов, которые генерируют через JS tokenы, которые требуется отправлять в header запросах, чтобы получать нужные результаты?
Мой скрипт написан на PHP, поэтому мне нужно что-то, что можно совместить/вызывать с php.
Сразу отвечу любителям Selenium: Данные, которые я хочу получать не отображаются пользователю сайта, их нету в HTML страничке, данные в формате
json
я нахожу в POST запросе в браузере, просматривая F12 -> Network, и как я понимаю Selenium не сможет вытаскивать этот самый
json
.