[转帖]MioIO读/写性能测试
https://www.jianshu.com/p/a0a84f91b16f

COSBench是Intel团队基于java开发,是一个测试云对象存储系统的分布式基准测试工具,全称是Cloud Object Storage Benchmark;由Driver和Controller两个关键组件组成,Driver可以分布式部署,可以支持Swift、S3、Openstack等接口;这里简要介绍通过S3接口使用COSBench测试MinIO的RW性能。
- https://github.com/intel-cloud/cosbench(COSBench用户安装使用手册)
- https://github.com/minio/benchmarks(专门针对MinIO测试的读写配置)
Controller WEB页面

Driver WEB页面

使用mc客户端,添加MinIO server的地址(这里MinIO server通过K8S部署)
mc config host add xxxx http://10.0.105.107:32593 admin123 admin123 --api S3v4

workload-config.xml配置文件


storage指定存储类型,这里为s3
workflow主要分为5个阶段:
init阶段负责顺序创建2个空的bucket,bucket前缀为miniotest;
prepare阶段负责向每个bucket中写入128个object,每个对象大小为256KB,r(1,128)表示从1到128递增;
main阶段负责测试读,workers表示并发数,runtime表示运行时间,type表示类型,ratio表示读写比例。由于这里测试只读性能,所以read的比例为100,c(1)表示只对第一个bucket。
cleanup阶段清理object;
dispose阶段清理bucket。
只读测试

只写测试

读/写同时测试


测试结果
Local: COSBench的driver和minio在同一台机器,Network:COSBench的driver和minio不在同一台机器
| Op-Type | Op-Count | Byte-Count | Avg-ResTime | Avg-ProcTime | Throughput | Bandwidth |
|---|---|---|---|---|---|---|
| Readonly-Dist-256KB-128(local) | 72.63 kops | 18.59 GB | 52.81 ms | 51.66 ms | 2422.93 op/s | 620.27 MB/S |
| Readonly-Dist-256KB-1024(local) | 77.2 kops | 19.76 GB | 395.48 ms | 394.61 ms | 2589.24 op/s | 662.84 MB/S |
| Writeonly-Dist-256KB-128(local) | 21.41 kops | 5.48 GB | 178.47 ms | 169.64 ms | 716.38 op/s | 183.39 MB/S |
| Writeonly-Dist-256KB-1024(local) | 18.31 kops | 4.69 GB | 1591.96 ms | 1574.63 ms | 642.44 op/s | 164.47 MB/S |
| Readonly-Dist-256KB-128(network) | 28.56 kops | 7.31 GB | 133.37 ms | 46.45 ms | 954.81 op/s | 244.43 MB/S |
| Readonly-Dist-256KB-1024 (network) | 17.81 kops | 4.56 GB | 1658.99 ms | 208.9 ms | 616.84 op/s | 157.91 MB/S |
| Writeonly-Dist-256KB-128 (network) | 15.4 kops | 3.94 GB | 247.57 ms | 245.31 ms | 516.87 op/s | 132.32 MB/S |
| Writeonly-Dist-256KB-1024(network) | 14.66 kops | 3.75 GB | 2031.26 ms | 2022.86 ms | 503.29 op/s | 128.84 MB/S |
| Read(80%)/Write(20%)-Dist-64KB-10(network) | 45.6 kops | 2.92 GB | 3.38 ms | 3.22 ms | 1520.05 op/s | 97.28 MB/S |
| 11.12 kops | 711.87 MB | 7.64 ms | 7.37 ms | 370.79 op/s | 23.73 MB/S |
[转帖]MioIO读/写性能测试的更多相关文章
- Pandas 基础(4) - 读/写 Excel 和 CSV 文件
这一节将分别介绍读/写 Excel 和 CSV 文件的各种方式: - 读入 CSV 文件 首先是准备一个 csv 文件, 这里我用的是 stock_data.csv, 文件我已上传, 大家可以直接下载 ...
- MyISAM Key Buffer 读/写/利用率(%) MylSAM平均每秒Key Buffer利用率(%) MylSAM平均每秒Key Buffer读命中率(%) MylSAM平均每秒Key Buffer写命中率(%)
MyISAM Key Buffer 读/写/利用率(%) MylSAM平均每秒Key Buffer利用率(%)MylSAM平均每秒Key Buffer读命中率(%)MylSAM平均每秒Key Buff ...
- openpyxl -用于读/写Excel 2010 XLSX/XLSM文件的python库
openpyxl -用于读/写Excel 2010 XLSX/XLSM文件的python库¶ https://www.osgeo.cn/openpyxl/index.html
- Windows操作系统中的I/O(读/写 输入/输出)
导言 写一个Windows平台下的应用程序大多时候都是离不开读写文件,网络通信的. 比如一个服务应用程序来说,它可能从网络适配器接受用户的请求,对请求进行处理计算,最终将用户端所需的数据返回,中间可能 ...
- java读/写文件
读取文件参考:https://blog.csdn.net/weixin_42129373/article/details/82154471 写入文件参考:https://blog.csdn.net/B ...
- 使用 FIO 对 Kubernetes 持久卷进行 Benchmark:读/写(IOPS)、带宽(MB/s)和延迟
工具 Dbench https://github.com/leeliu/dbench 用法 编辑 dbench.yaml 文件中的 storageClassName 以匹配你自己的 Storage C ...
- dd 工具使用; SSD 顺序写性能测试;
dd 工具使用: dd 也是我们经常使用到的磁盘测试工具,Linux服务器装好系统之后,想要知道硬盘的读写是否能满足服务的需要,如果不满足硬盘的IO就是服务的一个瓶颈.我们可以使用dd命令简单进行测试 ...
- 20 常用模块 hashlib hmac:加密 xml xlrd xlwt:excel读|写 configparser subprocess
hashlib模块:加密 加密: 1.有解密的加密方式 2.无解密的加密方式:碰撞检查 hashlib -- 1)不同数据加密后的结果一定不一致 -- 2)相同数据的加密结果一定是一致的 import ...
- day9 python学习 文件的操作 读 写 seek
文件的操作 1 文件的打开操作: 文件句柄 = open('文件路径', '模式') f=open('wangyakun','a+',encoding='utf-8') #文件名, 如果是绝对路径 ...
- 总结day7 ---- 文件操作,读,写,追加,以及相关方法
内容大纲 一:文件的基本操作, >常见问题 >encoding >绝对路径和相对路径的 二:文件的读写追加相关操作 >读(r, r+ ,rb,r+b) >写(w,w+,w ...
随机推荐
- React jsx 语法解析 & 转换原理
jsx介绍 jsx是一种JavaScript的语法扩展(eXtension),也在很多地方称之为JavaScript XML,因为看起就是一段XML语法,用于描述UI界面,并且可以和JavaScrip ...
- 十八般武艺玩转GaussDB(DWS)性能调优:Plan hint运用
摘要:本文介绍GaussDB(DWS)另一种可以人工干预计划生成的功能--plan hint. 前言 数据库的使用者在书写SQL语句时,会根据自己已知的情况尽力写出性能很高的SQL语句.但是当需要写大 ...
- 基于DMS的数仓智能运维服务,知多少?
摘要:GaussDB(DWS)使用DMS来承载数据库的智能运维体系,提供了数据库运维过程中的监控,分析,处理三大核心处理过程. 本文分享自华为云社区<GaussDB(DWS) 数据库智能监控运维 ...
- Hive查看,删除分区
查看所有分区 show partitions 表名; 删除一般会有两种方案 1.直接删除hdfs文件 亲测删除hdfs路径后 查看分区还是能看到此分区 可能会引起其他问题 此方法不建议 2. 使用删除 ...
- 如何使用appuploader制作描述文件
如何使用appuploader制作描述文件 承接上文我们讲述了怎么制作证书,本文我们来看下怎么制作描述文件吧.制作描述文件前我们首先我们来添加一个测试设备,后面再制作描述文件. 1.添加测试设备 ...
- 超详细的 Jenkins 安全tips
Jenkins 作为一个开放的.可定制的平台,即使在默认状态下也提供了不错的安全性.但是鉴于 Jenkins 连接了许多行业工具,因此也存在一定安全隐患.本篇文章将会介绍一些方法和工具,来确保 Jen ...
- 中国人的 Java 生态,Solon v2.5.3 发布
Solon 是什么? 国产的 Java 应用开发框架.从零开始构建,有自己的标准规范与开放生态(历时五年,具备全球第二级别的生态规模).与其他框架相比,解决了两个重要的痛点:启动慢,费内存. 关键记事 ...
- Hugging Face 入选 Time《时代周刊》2023 全球前 100 最具影响力的公司
喜报 Hugging Face 入选 Time<时代周刊>2023 全球前 100 最具影响力的公司 继续为梦想努力 继续为开源贡献 榜单链接: https://time.com/100c ...
- 关于 Jupyter 导出 PDF/Latex 格式报错的简单解决方法
利用 Jupyter 提供的 Print Preview 功能,然后鼠标右键点击打印,就能导出PDF了,而且不会出问题,中文,图片都可以
- 【每日一题】11.黑白树 (树上DFS)
补题链接:Here 题目描述 一棵 \(n\) 个点的有根树,\(1\) 号点为根,相邻的两个节点之间的距离为 \(1\) .树上每个节点 \(i\)对应一个值\(k[i]\).每个点都有一个颜色,初 ...