python - Selenium 中的代理实现
问题描述
我想用 selenium 在我的 python 项目中实现代理。我从一个网站获得了一个代理列表并将它们存储在一个列表中。现在如何使用 for 循环遍历每个代理并访问网站。
import requests
from lxml.html import fromstring
from itertools import cycle
from selenium import webdriver
from selenium.webdriver.support.ui import WebDriverWait
def get_proxies():
url = 'https://free-proxy-list.net/'
response = requests.get(url)
parser = fromstring(response.text)
proxies = set()
for i in parser.xpath('//tbody/tr')[:10]:
if i.xpath('.//td[7][contains(text(),"yes")]'):
proxy = ":".join([i.xpath('.//td[1]/text()')[0], i.xpath('.//td[2]/text()')[0]])
proxies.add(proxy)
return proxies
proxies = get_proxies()
proxy_pool = cycle(proxies)
解决方案
推荐阅读
- r - 一些受访者将出生年份而不是年龄,需要将其全部转换为年龄(在 R 中)
- postgresql - 我需要为内置的 PostgreSQL rest API 添加一个插件吗?
- excel - 更新对工作表上已编辑数据的更改不起作用
- azure - 将 OneDrive 数据连接到 Azure Databricks
- typescript - 如何在打字稿中访问(firestore)文档ID或地址?
- docker - 即使 /var/lib/docker 分区已满,是否确保特定容器继续运行?
- javascript - javascript中的作用域、词法环境和执行上下文
- zeromq - zeromq 普通身份验证-> 带有 C++ 库的示例?
- reinforcement-learning - 随机环境的优先体验重放
- php - 是否可以检查firebase是否将通知传递到php中的单个设备?