@oo22maxi

Каким образом лучше получать данные с сайта?

Приветствую.
Есть сайт, данные на нем меняются довольно часто, могут раз в 1 сек, работает websocket (который появляется после авторизации), сам контент сайта подгружаются/формируется JavaScript'ом.

Наткнулся на phantomjs, почитал, вроде он справится с этой задачей...

Но все же, посоветуйте, каким способом лучше и быстрей получать данные с такого сайта?

upd
Решил phantomjs использовать, осталось разобраться только с ним получше....
  • Вопрос задан
  • 333 просмотра
Решения вопроса 1
yesworld
@yesworld
Да, вам нужен Фантом.
Просто в цикле указываете задержку таймаута, на время загрузки сайта и парсите.
Вот накидал вам примерный код:
var webPage = require('webpage');
var page = webPage.create();

page.open('https://example.ru/', function (status) {
    window.setTimeout( function() {
        var content =  page.content ;
        /* Парсите полученный html код динамического сайта  */
        fs.write("./info.log",'Время: ' + new Date().toLocaleString()+' | Value:'+ content +'\n' , 'a');
     
        phantom.exit();
    }, 10000);
});
Ответ написан
Комментировать
Пригласить эксперта
Ответы на вопрос 1
dmitriy_novikov
@dmitriy_novikov
Занимаюсь web-разработкой с 2010г. http://dmnv.ru
Для интерактивных сайтов с динамичной отдачей контента подойдет node.js - но тут придется многое изучить.
Ответ написан
Комментировать
Ваш ответ на вопрос

Войдите, чтобы написать ответ

Войти через центр авторизации
Похожие вопросы