Задать вопрос
Python_py
@Python_py

Как заставить selenium прогрузить часть страницы, которая загружается после прокрутки scrolbar?

Допустим мне надо спарсить страницу: страница.
Selenium выдаёт только 18 олимпиад из 251. Как мне заставить его прогрузить страницу полностью?
Код:
from selenium import webdriver
from selenium.webdriver.chrome.service import Service
from bs4 import BeautifulSoup

ser = Service(r'C:\Users\DNS\Desktop\Python\Test\Проект\Driver\chromedriver.exe')
options = webdriver.ChromeOptions()
options.add_argument('--headless')
options.add_argument('--normal')
browser = webdriver.Chrome(service=ser, options=options)

browser.get('https://olimpiada.ru/activities?type=any&class=9&period_date=&period=year&perechen=on')
requiredHtml = browser.page_source

soup = BeautifulSoup(requiredHtml, 'lxml')
open("Htm.html", "w", encoding="utf-16").write(str(soup))
  • Вопрос задан
  • 172 просмотра
Подписаться 1 Сложный Комментировать
Пригласить эксперта
Ответы на вопрос 1
@Kadabrov
можно сделать прокрутку через js код(есть в интернете)
можно сделать через драйвер селениума нажимать кнопку 'page dawn'
как узнать сколько экранов прокрутить, подумайте сами
Ответ написан
Ваш ответ на вопрос

Войдите, чтобы написать ответ

Похожие вопросы
Greenway Global Новосибирск
от 150 000 ₽
SPA2099 Москва
До 100 000 ₽
HR Prime Москва
от 300 000 до 3 800 000 ₽