谈下微信小程序的抓取技巧
先来说小程序抓包问题
只要抓包搞定了,很多小程序也就能抓取了,剩下就是解决IP问题。还有一部分小程序在前端有反爬措施,对请求参数加密或混淆了。所以就还得解决小程序调试问题。
再说下小程序调试问题
我们都知道一个网站的前端页面是由html、css、javascript组成,小程序的前端页面也是由类似这样的来组成的。小程序里的数据交互也是由javascript来负责的。所以爬虫调试小程序也主要是调试javascript。
那怎么调试小程序的javascript呢?
小程序代码的路径在:
该路径下以.wxapkg结尾的文件就是小程序前端代码被编译之后的形式。
你会看到很多个.wxapkg文件,因为你打开过很多小程序,最好是你把这个文件下的文件全都删除,重新打开目的小程序。然后里面的.wxapkg文件就都是该小程序的了。
解包wxapkg
我们的目的是拿到小程序的前端代码在小程序开发者工具里面调试,wxapkg是编译之后的小程序,所以还得反编译,让wxapkg解包出源代码。
要感谢开源的世界,已经有爱好者开发出了.wxapkg的解包程序,我们就直接拿过来用。
解包程序的github地址是:
https://github.com/qwerty472123/wxappUnpacker
最后你只需要运行命令:
node xxxxxx.wxapkg
node是运行node.js的命令,即可把小程序前端源代码还原了。类似下图这样的。
调试小程序
注册一个小程序开发者账号
下载小程序开发者工具:
打开小程序开发者工具,选择导入已有项目,就是选择上面解包出来的那个文件夹。
点击确定。就出现以下界面。
另外因为这个小程序是别人开发的,你要把这个小程序运行起来,要让它不去验证域名和ssl证书那些,如下。
PS:上述对.wxapkg文件解包,还有一些小细节我没有全部写出来,诸如运行解包程序报错,还有解分包的问题。这些很琐碎,偏离了主题。感兴趣的可以自行搜索。
END
往期文章回顾
在看越多,更新越快
先来说小程序抓包问题 只要抓包搞定了,很多小程序也就能抓取了,剩下就是解决IP问题。还有一部分小程序在前端有反爬措施,对请求参数加密或混淆了。所以就还得解决小程序调试问题。 再说下小程序调试问题 我们都知道一个网站的前端页面是由html、css、javascript组成,小程序的前端页面也是由类似这样的来组成的。小程序里的数据交互也是由javascript来负责的。所以爬虫调试小程序也主要是调试javascript。 那怎么调试小程序的javascript呢? 小程序代码的路径在: 该路径下以.wxapkg结尾的文件就是小程序前端代码被编译之后的形式。 你会看到很多个.wxapkg文件,因为你打开过很多小程序,最好是你把这个文件下的文件全都删除,重新打开目的小程序。然后里面的.wxapkg文件就都是该小程序的了。 解包wxapkg 我们的目的是拿到小程序的前端代码在小程序开发者工具里面调试,wxapkg是编译之后的小程序,所以还得反编译,让wxapkg解包出源代码。 要感谢开源的世界,已经有爱好者开发出了.wxapkg的解包程序,我们就直接拿过来用。 解包程序的github地址是: https://github.com/qwerty472123/wxappUnpacker 最后你只需要运行命令: node xxxxxx.wxapkg node是运行node.js的命令,即可把小程序前端源代码还原了。类似下图这样的。 调试小程序 注册一个小程序开发者账号 下载小程序开发者工具: 打开小程序开发者工具,选择导入已有项目,就是选择上面解包出来的那个文件夹。 点击确定。就出现以下界面。 另外因为这个小程序是别人开发的,你要把这个小程序运行起来,要让它不去验证域名和ssl证书那些,如下。 PS:上述对.wxapkg文件解包,还有一些小细节我没有全部写出来,诸如运行解包程序报错,还有解分包的问题。这些很琐碎,偏离了主题。感兴趣的可以自行搜索。 END 往期文章回顾 在看越多,更新越快