def bf_parse(base_url, headers):
session = requests.session()
request = session.get(base_url, headers=headers)
if request.status_code == 200:
soup = bs(request.content, 'html.parser')
divs = soup.find_all('div', attrs=('forum-user-name'))
for div in divs:
users = div.find('a').get('href')
print("https://www.banki.ru" + users)
else:
print("ерор")
bf_parse(base_url, headers)
Проблема в том что после принта того, что мне нужно, я получаю такой результат:
как можно заметить, в первых двух строках результат повторяется, мне нужно исключить дубликаты.