爬虫05 /js加密/js逆向.常用抓包工具.移动端数据爬取 目录 爬虫05 /js加密/js逆向.常用抓包工具.移动端数据爬取 1. js加密.js逆向:案例1 2. js加密.js逆向:案例2 3. 常用的抓包工具 4. 移动端数据的爬取 总结: 1. js加密.js逆向:案例1 需求: 将这个网页中的代理ip和端口号进行爬取 分析: 爬取的数据是动态加载 并且我们进行了抓包工具的全局搜索,没有查找到结果 意味着:爬取的数据从服务端请求到的是加密的密文数据 页面每10s刷新一次,刷新后发现数…
tcpdump是linux命令行下常用的的一个抓包工具,记录一下平时常用的方式,测试机器系统是ubuntu 12.04. tcpdump的命令格式 tcpdump的参数众多,通过man tcpdump可以查看tcpdump的详细说明,这边只列一些笔者自己常用的参数: tcpdump [-i 网卡] -nnAX '表达式' 各参数说明如下: -i:interface 监听的网卡. -nn:表示以ip和port的方式显示来源主机和目的主机,而不是用主机名和服务. -A:以ascii的方式显示数据包,…
1. 移动端(手机)配置证书 1.1 进入Charles,点击Help,选择SSL Proxying --> 选择安装手机证书 1.2 在Charles弹框提示中,按照提示内容,进入手机进入下图提示给出的下载地址,进行下载证书,并安装在需要进行抓包的手机上 1.3 手机如果已经安装则显示如下图,或者未安装过,选择确认进行安装 1.4 安装完成后,进入手机的设置-->安全和隐私选项-->更多安全设置-->选择加密和凭据,如果你已经下载并安装好证书后,查看加密和凭据.已经安装好的证书,…
一:获取Android的数据包必须要在同一个网络中 移动设备访问网络原理 先看看移动设备是怎么去访问网络,如图所示,可以看到,移动端的数据包是从wifi出去的. 可以看得出,移动端的数据包,都是要走wifi出去,所以我们可以把自己的电脑开启热点,将手机连上电脑, Fiddler开启代理后,让这些数据通过Fiddler,Fiddler就可以抓到这些包,然后发给路由器(如图): 二.Fiddler抓取android数据包所需条件 1.电脑需要安装Fiddler 2.测试手机需要支持Wifi 3.测试…
charles中有三个是我经常用到来mock数据的. 一. 打断点--Breakpoints 1. 先切换查看‘Structure’模式 2. 找到目标链接,对其父级进行打断点,如图 3. 取消掉再次请求,就可以看到打断点的请求 --因为该父级下会有很多接口被断点,首先判断该接口是否是自己要修改的接口,如果不是则直接点击excute,执行就好了 --如果该接口是需要被修改参数的,会弹出请求参数,如果需要修改,修改后执行,若无需修改,则执行:会再弹出返回参数,如果需要修改,修改后执行,若无需修改,…
环境 Chrome jmeter3.1 fiddler4 win7 32位 Linux CentOs6.4 bugfree3.0.1 链接:http://pan.baidu.com/s/1gfHpbpD 密码:wpxj  jmeter3.1软件包 链接:http://pan.baidu.com/s/1miHeNfa 密码:yqlp  fiddler4软件包 如果链接失效,可以自己网上寻找资源,或者加我百度云:天涯咫尺HK 一.打开jmeter.添加线程组.录制控制器.HTTPCookie管理器.…
问题描述: 在手机连接pc的fiddler后,安卓微信打不开https页面,安卓的浏览器.qq等都可以正常访问https,ios也都可以,就只有安卓微信放问https是空白页面 解决思路: 一. 证书没有正确安装 连接抓包工具无法访问https的,首先判断是证书问题.在浏览器访问    ,点击最下面的证书进行安装 安装好证书后,发现仍然访问不了. 重新整理思路,安卓浏览器和qq等都可以正常访问https说明证书配置是正确的.唯独在微信访问异常,在百度后查到有其他人遇到类似的问题,说是证书链不完整…
一.Charles常见使用场景: 1.Charles是跨平台的抓包工具,支持Windows,mac或Linux平台: 2.获取请求信息.测试接口时,若接口文档中的参数不清楚或没有接口文档时,可以通过抓包获取请求信息.URL.cookie或是否加入Header等. 3.定位问题.页面无响应时,可通过抓取信息判断是页面问题还是服务器端响应问题(判断前端或后台服务问题). PS:HTTPS请求是经过加密的,因此是不能看到请求信息的. 二.实例一个场景:截获网络请求并修改请求信息,返回页面.以bj.58…
遇到的问题: 打开浏览器,输入本机的虚拟机地址的bugfree,出现无法连接的提示,具体是: [Fiddler] The connection to '192.168.211.128' failed. Error: ConnectionRefused (0x274d). System.Net.Sockets.SocketException 由于目标计算机积极拒绝,无法连接. 192.168.211.128:80   此时我并没有使用fiddler进行抓包,重启虚拟机,还是出现一样的报错:于是重启…
测试或者开发调试的过程中,经常会进行抓包分析,并且装上抓包工具的证书就能抓取 HTTPS 的数据包并显示.由此就产生了一个疑问,为什么抓包工具装上证书后就能抓到 HTTPS 的包并显示呢?不是说 HTTPS 是加密传输的吗? 今天这篇文章就来探究下上面这个问题,要解释清楚这个问题,我会通过解答以下两个问题来讲述: HTTPS 到底是什么? 抓包工具抓包的原理? HTTPS 到底是什么 HTTP 作为一种被广泛使用的传输协议,也存在一些的缺点: 无状态(可以通过 Cookie 或 Session…