首页 > 其他 > 详细

selenium+scrapy完成爬取特定的知乎界面,比如我爬取的就是搜索“”“某某某东西”

时间:2018-03-07 14:35:27      阅读:607      评论:0      收藏:0      [点我收藏+]

这个地方非常感谢此篇作者的帮助 :http://blog.csdn.net/uselym/article/details/52525025

一、建立一个scrapy框架的爬虫

二、在spider中首先构造登录

技术分享图片

二、使用response构造需要获取到的数据

技术分享图片

三、在parse函数中返回request请求。

四、在scrapy.Request()中指定url=“你需要爬取的界面”

总结:对于知乎的动态界面,scrapy爬虫爬取始终没有selenium模拟上下滑动获取的比较完整,望注意。

 

selenium+scrapy完成爬取特定的知乎界面,比如我爬取的就是搜索“”“某某某东西”

原文:https://www.cnblogs.com/rabbit-working/p/8521713.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!