python - selenium firefox webdriver中的HTML未加载
问题描述
我正在尝试使用Selenium Firefox
(无头)驱动程序在python
.
我阅读了网页中的所有锚点,并一一浏览。Ajax
但我希望浏览器在移动到另一个页面之前等待页面上的调用结束。
我的代码如下:
import time
from selenium import webdriver
from selenium.webdriver.firefox.options import Options
from selenium.webdriver.support.ui import WebDriverWait
from selenium.webdriver.common.by import By
from selenium.webdriver.support import expected_conditions as EC
from selenium.webdriver.common.desired_capabilities import DesiredCapabilities
caps = DesiredCapabilities().FIREFOX
caps["pageLoadStrategy"] = "eager" # complete
options = Options()
options.add_argument("--headless")
url = "http://localhost:3000/"
# Using Selenium's webdriver to open the page
driver = webdriver.Firefox(desired_capabilities=caps,firefox_options=options)
driver.get(url)
urls = WebDriverWait(driver, 10).until(EC.presence_of_all_elements_located((By.TAG_NAME, "a")))
links = []
for url in urls:
links.append(url.get_attribute("href"))
for link in links:
print 'navigating to: ' + link
driver.get(link)
body = WebDriverWait(driver, 10).until(EC.presence_of_all_elements_located((By.TAG_NAME, "p")))
driver.execute_script("window.scrollTo(0,1000);")
print(body)
driver.back()
driver.quit()
该行print(body)
是出于测试目的而添加的。它返回了难以理解的文本,而不是页面的实际 HTML。以下是印刷文本的一部分:
[<selenium.webdriver.firefox.webelement.FirefoxWebElement (session="fb183e8b-ce36-47e7-a03e-d3aeea376304", element="e7dfa6b2-1ddf-438d-b562-1e2ac8416e07")>, <selenium.webdriver.firefox.webelement.FirefoxWebElement (session="fb183e8b-ce36-47e7-a03e-d3aeea376304", element="6fe1ffb0-17a8-4b64-9166-691478a0bbd4")>, <selenium.webdriver.firefox.webelement.FirefoxWebElement (session="fb183e8b-ce36-47e7-a03e-d3aeea376304", element="1f510a00-a587-4ae8-9ecf-dd4c90081a5a")>, <selenium.webdriver.firefox.webelement.FirefoxWebElement (session="fb183e8b-ce36-47e7-a03e-d3aeea376304", element="c1bfb1cd-5ccf-42b6-ad4c-c1a70486cc98")>, <selenium.webdriver.firefox.webelement.FirefoxWebElement (session="fb183e8b-ce36-47e7-a03e-d3aeea376304", element="be44db09-3948-48f1-8505-937db509a157")>, <selenium.webdriver.firefox.webelement.FirefoxWebElement (session="fb183e8b-ce36-47e7-a03e-d3aeea376304", element="68f3c9f2-80b0-493e-a47f-ad69caceaa06")>,
这是什么原因造成的?
我正在抓取的页面中的所有内容(与内容相关)都是静态的。
解决方案
尝试这个:
for node in body:
print(node.get_attribute('innerHTML'))
这将打印innerHTML
为字符串。
推荐阅读
- firebase - Firebase 和 Flutter:换行符?
- python - 使用用户提供的损失函数进行训练时出现 keras/tensorflow 错误(“py_call_impl [...] ValueError 中的错误:在用户代码中”)
- java - 根据图标播放天气声音
- javascript - 动画 Jquery 重启
- html - 弹性空间 - 2 个项目之间,但在包裹时居中
- c++ - 按值或按引用返回 unique_ptr?
- android - 如何在 Android 上获取 Seekbar 当前背景和进度条颜色
- flutter - 未处理的异常:SqliteException(1):没有这样的表:main.checkLists,SQL 逻辑错误(代码 1)[在 Moor]
- python - DCGAN如何去RGB而不是灰度
- python - 将多个具有相同列命名的 csv 组合起来