首页 > 技术文章 > 使用scrapy框架出现callback指定的函数不被调用的情况

xxks 2021-08-07 17:16 原文

使用scrapy框架出现callback指定的函数不被调用的情况

问题:在学习scrapy框架时,写了一个爬虫,在parse函数里使用yield语句重新请求该网页结果中包含的链接,但是试了好几次parse_info函数都不会被调用

1627725723152.png

原因:因为自己写了allowed_domains,忘记改随手一写,所以导致这些请求不会执行

1627725794917.png

解决方法:删掉allowed_domains属性,或者把域名写正确

修改完毕后,parse2函数就会被回调了。

推荐阅读