mitmproxy 代理工具介绍:rewrite和map local实现
在接口测试中,会用到抓包工具或者代理工具,常用代理工具包括charles、 burpsuite、 fiddler、mitmproxy等,ssh -D参数 可实现socks5代理。网络嗅探工具可以使用tcpdump 和 wireshark。
Charles工具可以实现mock测试(参考 接口测试代理工具charles mock测试),如果要自动化实现这些功能,mitmproxy工具是个不错的选择。
本文主要内容包括简要介绍mitmproxy代理工具、mitmproxy安装、SSL 证书安装以及实现和charles一样的功能:rewrite和map local。
mitmproxy简介
mitm(man-in-the-middle) 即中间人攻击,mitmproxy是主要基于Python平台开发的代理工具,功能强大,可满足高度定制化需求。它是一个用于跟踪流量的中间代理工具,具有截获、篡改、重放等功能。
插件是mitmproxy非常强大的一部分,提供了一系列API,mitmproxy扩展:https://docs.mitmproxy.org/stable/addons-overview/
插件例子:https://docs.mitmproxy.org/stable/addons-examples/
mitmproxy支持5种代理模式:
- 正向代理(regular proxy)
- 反向代理(reverse proxy)
- 上行代理(upstream proxy)
- 透明代理(transparent proxy)
- socks5代理(socks Proxy)

本文主要介绍mitmproxy的正向代理使用过程
mitmproxy套装包括3个工具:
- mitmproxy:命令行交互工具
- mitmdump:命令行非交互工具,提供类似 tcpdump的功能
- mitmweb:基于Web的用户界面
mitmproxy的代理流程:

图片来源:https://docs.mitmproxy.org/stable/concepts-howmitmproxyworks/
mitmproxy安装
mitmproxy官网:https://mitmproxy.org/
mitmproxy安装方法参考:https://docs.mitmproxy.org/stable/overview-installation/
macOS:
brew install mitmproxy
Linux和Windows:在官网mitmproxy.org下载安装

检查是否安装成功
mitmdump --version
C:\Users\10287>mitmdump --version
Mitmproxy: 5.1.1 binary
Python: 3.7.6
OpenSSL: OpenSSL 1.1.1f 31 Mar 2020
Platform: Windows-10-10.0.18362-SP0
C:\Users\10287>
python包安装:
注意python版本 >= 3.6
python3 -m pip install --user pipx
python3 -m pipx ensurepath
pipx install mitmproxy
docker 安装方法:
https://hub.docker.com/r/mitmproxy/mitmproxy/
docker pull mitmproxy/mitmproxy
SSL 证书安装
和charles代理工具一样,如果要抓取HTTPs报文,客户端(APP 或浏览器)需要安装SSL证书。
- 启动服务
C:\Users\10287>mitmdump -p 8999
Proxy server listening at http://*:8999
浏览器设置代理
使用SwitchyOmega插件添加mitmproxy代理,代理服务器地址设置为主机IP地址,代理端口8999
SwitchyOmega插件下载地址:https://github.com/FelisCatus/SwitchyOmega/releases

浏览器输入 mitm.it
选择对应系统的证书安装

手机证书安装方法同charles(地址为mitm.it)
参考 charles SSL证书安装


手机浏览器访问百度,命令行窗口显示https报文解析成功

mitmproxy录制回放
录制回放参考:https://docs.mitmproxy.org/stable/tute-clientreplay/
- 开始录制,保存到文件baidusearch中
D:\ProgramWorkspace\TestingDemo\test_mitmproxy>mitmdump -p 8999 -w baidusearch
- 手机浏览baidu,进行百度搜索
- 停止录制:
Ctrl+c停止 - 回放
cmd命令行输入如下命令:
mitmweb -p 8999
打开生成的baidusearch文档,可以查看报文交互过程

Rewrite
要求:和charles一样,修改招商银行名称及股票价格。见接口测试代理工具charles mock测试

- 启动 mitmproxy 服务
C:\Users\10287>mitmdump -p 8999
Proxy server listening at http://*:8999
手机(或者模拟器)安装ssl证书,设置代理
见 charles SSL证书安装抓取雪球APP行情页面数据包
C:\Users\10287>mitmweb -p 8999
Web server listening at http://127.0.0.1:8081/
Proxy server listening at http://*:8999
开启抓包后,刷新雪球APP行情页面,找到行情页面报文,查看URL特征,用于下一步写脚本来找到它。

- 写一个脚本处理响应数据:

test_mitmproxy_response.py
#!/usr/bin/python3
#-*-coding:utf-8-*-
import json
def response(flow):
"""
1. 找到行情页面相关URL
2. 修改第一条记录(招商银行)的名称和股票价格
3. 将数据写入响应数据中
"""
if "quote.json" in flow.request.pretty_url and "x=" in flow.request.pretty_url:
data = json.loads(flow.response.content)
data['data']['items'][0]['quote']['name'] = data['data']['items'][0]['quote']['name'] + "test"
data['data']['items'][0]['quote']['current'] = '50'
flow.response.text = json.dumps(data)
- 运行脚本
D:\ProgramWorkspace\TestingDemo\test_mitmproxy>mitmdump -p 8999 -s test_mitmproxy_response.py

- 刷新雪球APP行情页面

修改成功
Map Local
要求和接口测试代理工具charles mock测试一样,我们直接使用数据倍增后的数据stock2.json,如果要实现自动化,可以使用python脚本对响应数据进行处理。
股票数据可以在上一节Rewrite 第3步中直接保存,或者通过charles获取数据。
参考官方文档提供的mitmproxy插件http-reply-from-proxy.py:https://docs.mitmproxy.org/stable/addons-examples/#http-reply-from-proxy ,
- 编写响应数据处理脚本test_request.py
#!/usr/bin/python3
#-*-coding:utf-8-*-
"""Send a reply from the proxy without sending any data to the remote server."""
from mitmproxy import http
def request(flow: http.HTTPFlow) -> None:
if "quote.json" in flow.request.pretty_url and "x=" in flow.request.pretty_url:
with open("D:/ProgramWorkspace/TestingDemo/test_mitmproxy/stock2.json",encoding="utf-8") as f:
flow.response = http.HTTPResponse.make(
200, # (optional) status code
f.read(), # (optional) content
{"Content-Type": "application/json"} # (optional) headers
)
- 开启服务,运行脚本
D:\ProgramWorkspace\TestingDemo\test_mitmproxy>mitmdump -p 8999 -s test_request.py
Loading script test_request.py
Proxy server listening at http://*:8999
- 刷新雪球APP行情页面

修改成功
开启服务后,可以直接修改stock2.json内容,不需要重新拉起。
--THE END--
文章标题:mitmproxy 代理工具介绍:rewrite和map local实现
本文作者:hiyo
本文链接:https://www.cnblogs.com/hiyong/p/14288354.html
欢迎关注公众号:「测试开发小记」及时接收最新技术文章!
mitmproxy 代理工具介绍:rewrite和map local实现的更多相关文章
- charles技能之修改请求参数/返回数据(map Local、Rewrite、Breakpoints)
之前一直用postman调接口比较多,但有时候想要去修改APP的页面展示,造数据又会比较麻烦,此时可以用以下三种方法修改请求参数或修改响应: map Local(本地映射).Breakpoints(打 ...
- 代理工具--mitmproxy
#代理工具 mitmproxy 指令:mitmproxy -b ip -p port(代理ip设置为:ip,端口设置为:port) 拦截request: 输入字母“i”(代表Intercept fil ...
- Charles学习(四)之使用Map local代理本地静态资源以及配置移动端代理在真机上调试iOS和Android客户端
前言 问题一:我们在App内嵌H5开发的过程中,肯定会遇到一个问题就是我不想在chrome的控制台中调试也不想在模拟器中调试,我想要在真机上调试,那么如何解决这个问题呢? 问题二:我们期待调试时达到的 ...
- Charles学习(三)之使用Map local代理本地静态资源以及配置网页代理在Mac模拟器调试iOS客户端
前言 问题一:我们在App内嵌H5开发的过程中,肯定会遇到一个问题就是我不想在chrome的控制台中调试,我想要在手机上调试,那么如何解决这个问题呢? 问题二:我们期待调试时达到的效果就是和Charl ...
- Charles学习(二)之使用Map local代理本地静态资源以及配置网页代理在Mac浏览器上调试移动端
前言 我们在开发的过程肯定是一边写代码,一边查看自己的代码写的是否存在问题,那么问题来了,有两种情况 情况一:我们可以本地起服务,那么我们就可以在本地检查自己的代码,查看运行结果 情况二:本地无法起服 ...
- mitmproxy 代理介绍及入门
转载请注明出处 https://www.cnblogs.com/majianming/p/11823669.html mitmproxy 是一个python 写成的代理工具,可以代理https.htt ...
- 代理工具Charles使用
代理工具Charles使用 分类: MAC 2014-03-27 20:41 7810人阅读 评论(2) 收藏 举报 手机开发 一.跟踪HTTPS 1.下载官方的证书ssl.zip证书,解压成*.cr ...
- Redis集群维护、运营的相关命令与工具介绍
Redis集群的搭建.维护.运营的相关命令与工具介绍 一.概述 此教程主要介绍redis集群的搭建(Linux),集群命令的使用,redis-trib.rb工具的使用,此工具是ruby语言写的,用于集 ...
- kali下一些代理工具的简单描述
前言 最近几天了解了kali中一些代理工具的基本使用,做一个小小的总结,kali操作系统的官网为 www.kali.org,感兴趣的可以去官网下载镜像,如何安装这里就不在讲解了,百度有很多教程.新手这 ...
随机推荐
- cisco思科交换机终端远程ssh另一端报错:% ssh connections not permitted from this terminal
故障现象: XSJ-GH10-C3750->ssh 58.64.xx.xx% ssh connections not permitted from this terminal 解决办法: 原因: ...
- 第一个 Maven 应用程序
概述 使用 Maven 创建一个 Java Web 应用程序 创建 Maven 项目 选择 File -> New -> Project... 选择 Maven 项目 填写项目信息 选择工 ...
- REST 架构的替代方案 为什么说GraphQL是API的未来?
Managing enterprise accounts - GitHub Docs https://docs.github.com/en/graphql/guides/managing-enterp ...
- (Oracle)已有数据表建立表分区—在线重定义
今天在做数据抽取的时候,发现有一张业务表数据量达到了5000W,所以就想将此表改为分区表.分区表的有点如下: 1.改善查询性能:对分区对象的查询可以仅搜索自己关心的分区,提高检索速度.2.增强可用性: ...
- 博客-livevent-stl-cpp-nginx
https://blog.csdn.net/move_now/article/category/6420121
- 自监督图像论文复现 | BYOL(pytorch)| 2020
继续上一篇的内容,上一篇讲解了Bootstrap Your Onw Latent自监督模型的论文和结构: https://juejin.cn/post/6922347006144970760 现在我们 ...
- luoguP4999 烦人的数学作业
写在前面 这两天信息量有点大,需要好好消化一下,呼呼 \(f[i][j]\) 的转移式还是好理解的,但是对于其实际意义课上有点糊 求 \(ans_{1, x}\) 是感觉手动把数拆开看会好理解一点?? ...
- 【Redis 分布式锁】(1)一把简单的“锁”
原文链接:https://www.changxuan.top/?p=1230 在单体架构向分布式集群架构演进的过程中,项目中必不可少的一个功能组件就是分布式锁.在开发团队有技术积累的情况下,做为团队的 ...
- mysql高级day1
Mysql高级-day01 MySQL高级课程简介 序号 Day01 Day02 Day03 Day04 1 Linux系统安装MySQL 体系结构 应用优化 MySQL 常用工具 2 索引 存储引擎 ...
- cassandra权威指南读书笔记--Cassandra架构(2)
环和令牌cassandra的数据管理是用一个环来表示.为环中的每个节点分配一or多个数据范围,用token描述.token由64位整数ID表示,范围-2^(63)~2^(63)-1.使用对分区键进行一 ...