爬虫研究分析-请求包含验证参数

目标网站

某潮流网购社区

目标

获取商品信息

image

断点调试问题

使用chrome打开devtools工具会不断触发断点

解决办法如图所示,在触发断点行首右键,选择Add Conditional breakpoint,写入false然后回车。即可解决断点不断触发问题

image_1

分析网络请求

打开Network视图,经过分析获取数据请求是从

api/v1/h5/index/fire/flow/product/detail这个接口获取的

经过分析发现请求参数对象中有sign字段

猜测是作为数据签名信息一起发送给后台服务用于验证请求的合法性

image_2

导出HAR文件

由于暂时不清楚,是由那个js文件发送的请求,以及处理的数据

所以选择下载HAR文件进行全文检索

(HAR,即HTTP存档格式(HTTP Archive format)是一种JSON格式的存档文件格式,用于记录网页浏览器与网站的交互过程。文件扩展名通常为.har)

image_3

获取加密方法

下载HAR文件后使用编辑器打开

由于加密参数为sign,所以直接搜索(sign=),(sign:)等给sign字段赋值的字符串

首先排除(sign=),其次排除(sign =)

然后在搜索(sign:)时发现如下代码

image_4

向上查找,发现此代码来自static/js/index.a0a63867.js文件

导出此js文件或者直接从HAR文件中复制此js文件内容保存为index.js

由于此文件被压缩过,所以需要格式化一下进行查看

1
2
3
npm install js-beautify -g

js-beautify -f index.js -o index.beautify.js

使用编辑器打开index.beautify.js

定位到关键代码

image_5

发现加密函数如下

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
x = n("19e7"),
_ = function() {
    var e = arguments.length > 0 && void 0 !== arguments[0] ? arguments[0] : {},
        t = "",
        n = function(e) {
            if (null === e) return "";
            if (e instanceof Array) {
                var t = "";
                return e.forEach((function(e) {
                    t.length > 0 && (t += ","), t += JSON.stringify(e)
                })), t
            }
            return e instanceof Object ? JSON.stringify(e) : e.toString()
        };
    return t = Object.keys(e).sort().reduce((function(t, i) {
        return void 0 === e[i] ? t : "".concat(t).concat(i).concat(n(e[i]))
    }), ""), t += "048a9c4943398714b356a696503d2d36", Object(x["a"])(t)
},

方法的参数就是请求接口中除了sign的其他字段列表

方法的处理流程为

  1. 遍历参数列表

  2. 赋值参数列表给t

  3. 给t拼接048a9c4943398714b356a696503d2d36

  4. 调用Object(x[“a”])(t)

此处的Object(x[“a”])(t),可以理解为调用x方法,传入a作为参数,再调用函数的返回值(还是个方法),传入t作为参数进行处理

搜索19e7,找到x方法内容

x方法内容比较复杂,暂时不去理解方法具体过程,只需要弄清楚如何调用即可

调用解密方法

image_6

经过分析,入口函数是h函数

h函数处理过程中会调用中间的i,o,r,a等函数

分析完成,开始编写测试

测试

在webstorm中创建nodejs项目

创建sign.js文件,文件内容

执行node sign.js计算sign的值为

image_7

和上图Network视图中请求参数的sign的值一致,证明过程没有问题

扩展

加密算法需要理解,最好可以翻译成python或者java代码