首页 > 解决方案 > 大规模抓取轮换代理服务的建议

问题描述

所以情况如下,我在服务器上有多线程 python 脚本,它应该同时运行 3000 个请求和 3000 个不同的 IP,一次运行 200 次。之后,该过程将每 15-20 分钟重复一次。我找到了用于旋转代理服务的 Stormproxy,但他们无法处理这么大的 IP 池。

如果您可以推荐任何东西,请在这里帮助我...

标签: pythonweb-scrapingproxyhttp-proxy

解决方案


推荐阅读