时间戳

首页 > 解决方案 > python loop requests.get() 只返回第一个循环

python - python loop requests.get() 只返回第一个循环

问题描述

试图从多个网页中抓取一个表格并存储在一个列表中。该列表将第一个网页的结果打印 3 次。

import pandas as pd
import requests
from bs4 import BeautifulSoup

dflist = []
for i in range(1,4):
    s = requests.Session()
    res = requests.get(r'http://www.ironman.com/triathlon/events/americas/ironman/world-championship/results.aspx?p=' + str(i) + 'race=worldchampionship&rd=20181013&agegroup=Pro&sex=M&y=2018&ps=20#axzz5VRWzxmt3')
    soup = BeautifulSoup(res.content,'lxml')
    table = soup.find_all('table')
    dfs = pd.read_html(str(table))
    dflist.append(dfs)
    s.close()

print(dflist)

标签： pythonpython-3.xloopspython-requests

解决方案

你遗漏了&after '?p=' + str(i)，所以你的请求都p设置为${NUMBER}race=worldchampionship，ironman.com 大概无法理解，只是忽略了。&在开头插入 a 'race=worldchampionship'。

为防止将来出现此类错误，您可以将 URL 的查询参数作为 adict传递给params关键字参数，如下所示：

    params = {
        "p": i,
        "race": "worldchampionship",
        "rd": "20181013", 
        "agegroup": "Pro",
        "sex": "M",
        "y": "2018",
        "ps": "20",
    }

    res = requests.get(r'http://www.ironman.com/triathlon/events/americas/ironman/world-championship/results.aspx#axzz5VRWzxmt3', params=params)

推荐阅读