首页 > 解决方案 > 使用python从url中提取标题

问题描述

我想用来urllib从下面的 html 文档中提取标题。我在下面提供了开始部分:

html_doc = """
<!DOCTYPE html PUBLIC "-//W3C//DTD HTML 4.01 Transitional//EN"
      "http://www.w3.org/TR/html4/loose.dtd">
<html>
<head>
  <meta http-equiv="content-type" content="text/html; charset=iso-8859-1">
  <title>Three Little Pigs</title>
  <meta name="generator" content="Amaya, see http://www.w3.org/Amaya/">
</head>

<body>

我使用urlopen过,urllib.request但似乎urlhtml 文档中的类型不允许我提取任何内容。

我努力了:

from bs4 import BeautifulSoup
from urllib.request import urlopen
def get_title():
    soup = urlopen(html_doc)
    print(soup.title.string)
get_title()

我得到了以下结果:

ValueError: unknown url type: '!DOCTYPE html PUBLIC "-//W3C//DTD HTML 4.01 Transitional//EN"\n      "http://www.w3.org/TR/html4/loose.dtd">\n<html>\n<head>\n  <meta http-equiv="content-type" content="text/html; charset=iso-8859-1">\n  <title>Three Little Pigs</title>\n  <meta name="generator" content="Amaya, see http://www.w3.org/Amaya/">\n</head>\n\n<body'

任何人都可以帮助解决这个问题吗?

标签: pythonbeautifulsoupurllib

解决方案


html_doc不是URL,它是实际的源代码字符串,您可以使用BeautifulSoup'shtml.parser对其进行解析,然后从中提取标题:

from bs4 import BeautifulSoup

def get_title():
    soup = BeautifulSoup(html_doc, 'html.parser')
    print(soup.title.string)

get_title()

输出:

Three Little Pigs

推荐阅读