首页 > 编程语言 > 详细

python + Jquery,抓取西东网上的Java教程资源网址

时间:2018-06-15 19:48:32      阅读:168      评论:0      收藏:0      [点我收藏+]
#!/usr/bin/env python
# -*- coding: utf-8 -*-
# @Date    : 2018-06-15 14:01:45
# @Author  : Chenjun (320316430@qq.com;)
# @Link    : http://example.org
# @Version : $Id$

from pyquery import PyQuery as pq

URL = ‘http://xidong.net/File001/File_25266.html‘

lis = []
def get_resource_lis(URL):
    doc = pq(url=URL, encoding=‘utf-8‘)  #响应头部没有声明编码类型,需要手动说明,否则抓到的数据会中文乱码
    datas = doc(‘tr‘)   #通过网页检查发现资源放在表格的tr中
    resource_lis = datas.items() 
    return lis


def main():
    resource_lis = get_resource_lis(URL)
    for source in resource_lis:
        print(source.find(‘a‘).attr(‘href‘))  #取到每个tr中的a标签的href属性值,也就是我需要的地址

if __name__ == ‘__main__‘: main()
#后续可以存储到非关系型数据库中
 

 

python + Jquery,抓取西东网上的Java教程资源网址

原文:https://www.cnblogs.com/tarantino/p/9188728.html

踩
(0)
赞
(0)
   
举报
评论 一句话评论(0)
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!