python豆瓣的简单爬虫

https://movie.douban.com/

直奔主题，给个要爬取的豆瓣电影地址，爬取热门电影名字。

右键选择查看网页源码，我们可以发现在网页静态源码里，是找不到‘来电狂想’这些关键字的。

通过检查网页，查看network下的XHR，我们可以找到对应的信息。说明我们想要爬取的这部分内容是通过Ajax从后台拿到的json数据。

copy link address得到访问的url：https://movie.douban.com/j/search_subjects?type=movie&tag=%E7%83%AD%E9%97%A8&page_limit=50&page_start=0

分析url，传入的参数：

{'type': 'movie', 'tag': '热门', 'page_limit': 50, 'page_start': 0}  # 数据类型是电影，标签是热门，返回数据总数50条，数据起始位置第0条

于是我们就可以写个脚本，将0-50条json数据里title字段的值（热门电影的名字）爬取下来。

from urllib.parse import urlencode
from urllib.request import urlopen, Request
import simplejson
import ssl

# 伪装成浏览器
ua = 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_14_0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/71.0.3578.98 Safari/537.36'
base_url = 'https://movie.douban.com/j/search_subjects'
d = {
    'type': 'movie',
    'tag': '热门',
    'page_limit': 50,
    'page_start': 0
}

# ssl验证问题:忽略不信任的证书。就可以访问该网站
context = ssl._create_unverified_context()

# url编码后，传入Request()函数；headers参数伪装浏览器
req = Request('{}?{}'.format(base_url, urlencode(d)), headers={'User-agent': ua})

with urlopen(req, context=context) as res:
    res = simplejson.loads(res.read())  # json转dict

    for subject in res['subjects']:
        print(subject['title'])  # 取出电影名字
        with open('douban.txt', 'a') as f:
            f.write(subject['title'] + '\n')

部分结果：

小偷家族
蜘蛛侠：平行宇宙
三次元女友
悠哉日常大王剧场版：假期活动
独家记忆番外之相信爱
波西米亚狂想曲
白蛇：缘起
谁先爱上他的
“大”人物
无敌破坏王2：大闹互联网
来电狂响
神奇动物：格林德沃之罪
无名之辈
毒液：致命守护者

写到这里还有一个小知识点想记录一下。就是爬虫中最常见遇到的有SSL导致的‘urllib.error.URLError: <urlopen error [SSL: CERTIFICATE_VERIFY_FAILED] certificate verify failed (_ssl.c:833)’错误。

其实也就是https的问题：

HTTP(HyperText Transfer Protocol)超文本传输协议是浏览器和服务器之间传递信息的一种协议。HTTP以明文的方式发送信息，不进行任何的加密。所以如果攻击者截取了浏览器和服务器之间的报文，就可以直接获得其中的信息，如果里面包含了用户名、密码、银行卡号等敏感信息就很不安全了。

HTTPS(Hypertext Transfer Protocol Secure)超文本传输安全协议在HTTP基础上加入了SSL(Secure Sockets Layer)协议构建的可进行加密传输、身份验证的网络协议，来保证数据的安全。

HTTPS通过两种方法保证数据安全：

1.建立一个信息安全通道，来保证数据传输的安全

2.确认网站的真实性

https	http
需要CA(Cerfificate Authority)申请证书，需要一定费用	不需要CA证书
ssl加密传输	信息是明文传输
连接端口：443	连接端口：80

https工作原理：

1.客户端发起HTTPS请求（浏览器输入一个https网址，连接到服务器的443端口）；

2.服务器端的配置（采用HTTPS协议的服务器必须有一套数字证书（一对公钥和私钥），可以自己制作（自己颁发的证书需要客户端验证通过），可以向组织申请（CA：发放、管理、废除数字证书的机构））；

3.传送证书（公钥：包含证书颁发机构、过期时间等信息）；

4.客户端解析证书（由客户端的TLS完成：验证公钥是否有效，如果发现异常，会弹出一个警告框，提示证书存在问题；如果没有问题，就会生成一个随机值，然后用证书对随机值加密）；

5.客户端传送加密信息（传送证书加密后的随机值，让服务器端得到这个随机值。以后客户端和服务器端的通信就是通过这个随机值进行加密解密）；

6.服务器端解密信息（服务器端用自己的私钥解密后，得到客户端传来的随机值（私钥）。然后内容通过该随机值（私钥）进行对称加密）；

7.服务器端向客户端传输加密后的信息（这部分信息为步骤6中通过随机值进行加密的内容）；

8.客户端解密信息（客户端通过该随机值对信息进行解密。所以整个过程即使被第三方监听到，也无法获取明文信息）。

爬虫时，会遇到因为https的ssl验证问题导致网站访问不了，通常的解决办法是在代码里忽略不信任的证书：

import ssl

url = 'https://12306.cn/index/
context = ssl._create_unverified_context()
res = urlopen(url, context=context)  # 忽略不信任的证书就可以正常访问了

python豆瓣的简单爬虫

推荐阅读