谈下微信小程序的抓取技巧

先来说小程序抓包问题

只要抓包搞定了,很多小程序也就能抓取了,剩下就是解决IP问题。还有一部分小程序在前端有反爬措施,对请求参数加密或混淆了。所以就还得解决小程序调试问题。

再说下小程序调试问题

我们都知道一个网站的前端页面是由html、css、javascript组成,小程序的前端页面也是由类似这样的来组成的。小程序里的数据交互也是由javascript来负责的。所以爬虫调试小程序也主要是调试javascript。

那怎么调试小程序的javascript呢?

小程序代码的路径在:

该路径下以.wxapkg结尾的文件就是小程序前端代码被编译之后的形式。

你会看到很多个.wxapkg文件,因为你打开过很多小程序,最好是你把这个文件下的文件全都删除,重新打开目的小程序。然后里面的.wxapkg文件就都是该小程序的了。

解包wxapkg

我们的目的是拿到小程序的前端代码在小程序开发者工具里面调试,wxapkg是编译之后的小程序,所以还得反编译,让wxapkg解包出源代码。

要感谢开源的世界,已经有爱好者开发出了.wxapkg的解包程序,我们就直接拿过来用。

解包程序的github地址是:

https://github.com/qwerty472123/wxappUnpacker

最后你只需要运行命令:

node xxxxxx.wxapkg

node是运行node.js的命令,即可把小程序前端源代码还原了。类似下图这样的。

调试小程序

注册一个小程序开发者账号

下载小程序开发者工具:

打开小程序开发者工具,选择导入已有项目,就是选择上面解包出来的那个文件夹。

点击确定。就出现以下界面。

另外因为这个小程序是别人开发的,你要把这个小程序运行起来,要让它不去验证域名和ssl证书那些,如下。

PS:上述对.wxapkg文件解包,还有一些小细节我没有全部写出来,诸如运行解包程序报错,还有解分包的问题。这些很琐碎,偏离了主题。感兴趣的可以自行搜索。

END

往期文章回顾

在看越多,更新越快

先来说小程序抓包问题 只要抓包搞定了,很多小程序也就能抓取了,剩下就是解决IP问题。还有一部分小程序在前端有反爬措施,对请求参数加密或混淆了。所以就还得解决小程序调试问题。 再说下小程序调试问题 我们都知道一个网站的前端页面是由html、css、javascript组成,小程序的前端页面也是由类似这样的来组成的。小程序里的数据交互也是由javascript来负责的。所以爬虫调试小程序也主要是调试javascript。 那怎么调试小程序的javascript呢? 小程序代码的路径在: 该路径下以.wxapkg结尾的文件就是小程序前端代码被编译之后的形式。 你会看到很多个.wxapkg文件,因为你打开过很多小程序,最好是你把这个文件下的文件全都删除,重新打开目的小程序。然后里面的.wxapkg文件就都是该小程序的了。 解包wxapkg 我们的目的是拿到小程序的前端代码在小程序开发者工具里面调试,wxapkg是编译之后的小程序,所以还得反编译,让wxapkg解包出源代码。 要感谢开源的世界,已经有爱好者开发出了.wxapkg的解包程序,我们就直接拿过来用。 解包程序的github地址是: https://github.com/qwerty472123/wxappUnpacker 最后你只需要运行命令: node xxxxxx.wxapkg node是运行node.js的命令,即可把小程序前端源代码还原了。类似下图这样的。 调试小程序 注册一个小程序开发者账号 下载小程序开发者工具: 打开小程序开发者工具,选择导入已有项目,就是选择上面解包出来的那个文件夹。 点击确定。就出现以下界面。 另外因为这个小程序是别人开发的,你要把这个小程序运行起来,要让它不去验证域名和ssl证书那些,如下。 PS:上述对.wxapkg文件解包,还有一些小细节我没有全部写出来,诸如运行解包程序报错,还有解分包的问题。这些很琐碎,偏离了主题。感兴趣的可以自行搜索。 END 往期文章回顾 在看越多,更新越快
经验分享 程序员 微信小程序 职场和发展