时间戳

首页 > 解决方案 > 如何在 html 表中抓取？

python-3.x - 如何在 html 表中抓取？

问题描述

我想从雅虎财经中获取文本数据。对于任何代码，我希望能够抓取总收入：

水图像介绍

有关前面的示例，请参见欧莱雅页面。相关的目标代码是：

                         <div class="rw-expnded" data-reactid="44" data-test="fin-row">
                            <div class="D(tbr) fi-row Bgc($hoverBgColor):h" data-reactid="45">
                               <div class="D(tbc) Ta(start) Pend(15px)--mv2 Pend(10px) Bxz(bb) Py(8px) Bdends(s) Bdbs(s) Bdstarts(s) Bdstartw(1px) Bdbw(1px) Bdendw(1px) Bdc($seperatorColor) Pos(st) Start(0) Bgc($lv2BgColor) fi-row:h_Bgc($hoverBgColor) Pstart(15px)--mv2 Pstart(10px)" data-reactid="46">
                                  <div class="D(ib) Va(m) Ell Mt(-3px) W(215px)--mv2 W(200px)" data-reactid="47" title="Total Revenue"><span class="Va(m)" data-reactid="48">Total Revenue</span></div>
                                  <div class="W(3px) Pos(a) Start(100%) T(0) H(100%) Bg($pfColumnFakeShadowGradient) Pe(n) Pend(5px)" data-reactid="49"></div>
                               </div>
                               <div class="D(tbc) Ta(c) Pstart(6px) Pend(4px) Bxz(bb) Py(8px) BdB Bdc($seperatorColor) Miw(100px) Miw(156px)--pnclg Bgc($lv1BgColor) fi-row:h_Bgc($hoverBgColor)" data-reactid="50" data-test="fin-col"><span data-reactid="51">29,873,600</span></div>
                               <div class="D(tbc) Ta(c) Pstart(6px) Pend(4px) Bxz(bb) Py(8px) BdB Bdc($seperatorColor) Miw(100px) Miw(156px)--pnclg" data-reactid="52" data-test="fin-col"><span data-reactid="53">29,873,600</span></div>
                               <div class="D(tbc) Ta(c) Pstart(6px) Pend(4px) Bxz(bb) Py(8px) BdB Bdc($seperatorColor) Miw(100px) Miw(156px)--pnclg Bgc($lv1BgColor) fi-row:h_Bgc($hoverBgColor)" data-reactid="54" data-test="fin-col"><span data-reactid="55">26,937,400</span></div>
                               <div class="D(tbc) Ta(c) Pstart(6px) Pend(4px) Bxz(bb) Py(8px) BdB Bdc($seperatorColor) Miw(100px) Miw(156px)--pnclg" data-reactid="56" data-test="fin-col"><span data-reactid="57">26,023,700</span></div>
                               <div class="D(tbc) Ta(c) Pstart(6px) Pend(4px) Bxz(bb) Py(8px) BdB Bdc($seperatorColor) Miw(100px) Miw(156px)--pnclg Pend(10px) Bgc($lv1BgColor) fi-row:h_Bgc($hoverBgColor)" data-reactid="58" data-test="fin-col"><span data-reactid="59">25,837,100</span></div>
                            </div>
                            <div class="D(b)" data-reactid="60"></div>
                         </div>

为了尝试获得总收入，我这样做了：

#This will not run on online IDE 
import requests 
from bs4 import BeautifulSoup 

ticker = 'OR.SA'
URL = "https://finance.yahoo.com/quote/OR.PA/financials?p={ticker}"
r = requests.get(URL) 

soup = BeautifulSoup(r.content, 'html5lib')

然后我尝试在总收入之后获取该项目：

soup.find('span', string='Total Revenue').find_next().text

但它返回''

如果有更简单的方法，例如是否存在 API，请随时告诉我。我尝试了 yfinance，但它不适用于非美国股票的财务报表。

标签： python-3.xhtml-tablebeautifulsoupyahoo-finance

解决方案

你只是得到下一个div。你必须得到下一个span。find_next将标签的名称作为参数。

用这个：

soup.find('span', string='Total Revenue').find_next('span').text

代码

import requests
from bs4 import BeautifulSoup

ticker = 'OR.SA'
URL = "https://finance.yahoo.com/quote/OR.PA/financials?p={ticker}"
r = requests.get(URL)

soup = BeautifulSoup(r.content, 'html5lib')
# soup.find('span', string='Total Revenue').find_next()
# <div class="W(3px) ...data-reactid="49"></div>
print(soup.find('span', string='Total Revenue').find_next('span').text)

输出

29,873,600

推荐阅读