首页 > 其他 > 详细

全国建筑市场监管公共服务平台(四库一)平台数据爬取

时间:2019-11-17 13:16:42      阅读:328      评论:0      收藏:0      [点我收藏+]

http://jzsc.mohurd.gov.cn/data/company击企业查询, 发现返回的数据是经过加密的

技术分享图片

1. 寻找返回的数据

既然数据是通过这个 url 返回的, 全局搜索url

技术分享图片

http://jzsc.mohurd.gov.cn/api/webApi/dataservice/query/comp/list?pg=0&pgsz=15

尝试全局模糊搜索 /query/comp/list

技术分享图片

点击进入 js 函数

技术分享图片

返回的结果是请求 url /dataservice/query/comp/list得到的, 打上断点 点击搜索 一步一步调式js代码

技术分享图片

调试过程就不一步一步分析了, 最终定位到, 感觉像我们想要的数据, 进入Console打印一下te

技术分享图片

t

技术分享图片

t 中data 是 最初我们请求http://jzsc.mohurd.gov.cn/api/webApi/dataservice/query/comp/list?pg=0&pgsz=15 所返回的数据

e 这其中的数据不正是我们想要的数据

技术分享图片

2.分析加密方式

既然我们已经知道了数据的加密方式, 那我们就重点分析一下这个地方

技术分享图片

其中t.data我们在第一步已经分出来了 使我们第一步请求 http://jzsc.mohurd.gov.cn/api/webApi/dataservice/query/comp/list?pg=0&pgsz=15得到的结果

技术分享图片

那我们重点分析 p函数 的处理过程, 点击进入 p函数, 结果如下

技术分享图片

对数据经过层层加密处理后,调用toString方法, 既然加密函数已经找到,我们就可以编写代码了

3.代码实现

我们将函数 p 的代码复制出来, data是加密后返回的数据,我们先复制出来用一下

技术分享图片

运行一下项目

技术分享图片

报错的原因 , 其中 ud 没有进行初始化 我们寻找一下 u 和 d , 就在函数 p的上方

技术分享图片

我们添加到代码把 u 和 d 添加到代码中

技术分享图片

运行项目 进行测试

技术分享图片

其中返回的数据 , 正是我们想要的结果

请勿用于非法用途

全国建筑市场监管公共服务平台(四库一)平台数据爬取

原文:https://www.cnblogs.com/mingyangliang/p/11875925.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!