[转帖]MioIO读/写性能测试
https://www.jianshu.com/p/a0a84f91b16f

COSBench是Intel团队基于java开发,是一个测试云对象存储系统的分布式基准测试工具,全称是Cloud Object Storage Benchmark;由Driver和Controller两个关键组件组成,Driver可以分布式部署,可以支持Swift、S3、Openstack等接口;这里简要介绍通过S3接口使用COSBench测试MinIO的RW性能。
- https://github.com/intel-cloud/cosbench(COSBench用户安装使用手册)
- https://github.com/minio/benchmarks(专门针对MinIO测试的读写配置)
Controller WEB页面

Driver WEB页面

使用mc客户端,添加MinIO server的地址(这里MinIO server通过K8S部署)
mc config host add xxxx http://10.0.105.107:32593 admin123 admin123 --api S3v4

workload-config.xml配置文件


storage指定存储类型,这里为s3
workflow主要分为5个阶段:
init阶段负责顺序创建2个空的bucket,bucket前缀为miniotest;
prepare阶段负责向每个bucket中写入128个object,每个对象大小为256KB,r(1,128)表示从1到128递增;
main阶段负责测试读,workers表示并发数,runtime表示运行时间,type表示类型,ratio表示读写比例。由于这里测试只读性能,所以read的比例为100,c(1)表示只对第一个bucket。
cleanup阶段清理object;
dispose阶段清理bucket。
只读测试

只写测试

读/写同时测试


测试结果
Local: COSBench的driver和minio在同一台机器,Network:COSBench的driver和minio不在同一台机器
| Op-Type | Op-Count | Byte-Count | Avg-ResTime | Avg-ProcTime | Throughput | Bandwidth |
|---|---|---|---|---|---|---|
| Readonly-Dist-256KB-128(local) | 72.63 kops | 18.59 GB | 52.81 ms | 51.66 ms | 2422.93 op/s | 620.27 MB/S |
| Readonly-Dist-256KB-1024(local) | 77.2 kops | 19.76 GB | 395.48 ms | 394.61 ms | 2589.24 op/s | 662.84 MB/S |
| Writeonly-Dist-256KB-128(local) | 21.41 kops | 5.48 GB | 178.47 ms | 169.64 ms | 716.38 op/s | 183.39 MB/S |
| Writeonly-Dist-256KB-1024(local) | 18.31 kops | 4.69 GB | 1591.96 ms | 1574.63 ms | 642.44 op/s | 164.47 MB/S |
| Readonly-Dist-256KB-128(network) | 28.56 kops | 7.31 GB | 133.37 ms | 46.45 ms | 954.81 op/s | 244.43 MB/S |
| Readonly-Dist-256KB-1024 (network) | 17.81 kops | 4.56 GB | 1658.99 ms | 208.9 ms | 616.84 op/s | 157.91 MB/S |
| Writeonly-Dist-256KB-128 (network) | 15.4 kops | 3.94 GB | 247.57 ms | 245.31 ms | 516.87 op/s | 132.32 MB/S |
| Writeonly-Dist-256KB-1024(network) | 14.66 kops | 3.75 GB | 2031.26 ms | 2022.86 ms | 503.29 op/s | 128.84 MB/S |
| Read(80%)/Write(20%)-Dist-64KB-10(network) | 45.6 kops | 2.92 GB | 3.38 ms | 3.22 ms | 1520.05 op/s | 97.28 MB/S |
| 11.12 kops | 711.87 MB | 7.64 ms | 7.37 ms | 370.79 op/s | 23.73 MB/S |
[转帖]MioIO读/写性能测试的更多相关文章
- Pandas 基础(4) - 读/写 Excel 和 CSV 文件
这一节将分别介绍读/写 Excel 和 CSV 文件的各种方式: - 读入 CSV 文件 首先是准备一个 csv 文件, 这里我用的是 stock_data.csv, 文件我已上传, 大家可以直接下载 ...
- MyISAM Key Buffer 读/写/利用率(%) MylSAM平均每秒Key Buffer利用率(%) MylSAM平均每秒Key Buffer读命中率(%) MylSAM平均每秒Key Buffer写命中率(%)
MyISAM Key Buffer 读/写/利用率(%) MylSAM平均每秒Key Buffer利用率(%)MylSAM平均每秒Key Buffer读命中率(%)MylSAM平均每秒Key Buff ...
- openpyxl -用于读/写Excel 2010 XLSX/XLSM文件的python库
openpyxl -用于读/写Excel 2010 XLSX/XLSM文件的python库¶ https://www.osgeo.cn/openpyxl/index.html
- Windows操作系统中的I/O(读/写 输入/输出)
导言 写一个Windows平台下的应用程序大多时候都是离不开读写文件,网络通信的. 比如一个服务应用程序来说,它可能从网络适配器接受用户的请求,对请求进行处理计算,最终将用户端所需的数据返回,中间可能 ...
- java读/写文件
读取文件参考:https://blog.csdn.net/weixin_42129373/article/details/82154471 写入文件参考:https://blog.csdn.net/B ...
- 使用 FIO 对 Kubernetes 持久卷进行 Benchmark:读/写(IOPS)、带宽(MB/s)和延迟
工具 Dbench https://github.com/leeliu/dbench 用法 编辑 dbench.yaml 文件中的 storageClassName 以匹配你自己的 Storage C ...
- dd 工具使用; SSD 顺序写性能测试;
dd 工具使用: dd 也是我们经常使用到的磁盘测试工具,Linux服务器装好系统之后,想要知道硬盘的读写是否能满足服务的需要,如果不满足硬盘的IO就是服务的一个瓶颈.我们可以使用dd命令简单进行测试 ...
- 20 常用模块 hashlib hmac:加密 xml xlrd xlwt:excel读|写 configparser subprocess
hashlib模块:加密 加密: 1.有解密的加密方式 2.无解密的加密方式:碰撞检查 hashlib -- 1)不同数据加密后的结果一定不一致 -- 2)相同数据的加密结果一定是一致的 import ...
- day9 python学习 文件的操作 读 写 seek
文件的操作 1 文件的打开操作: 文件句柄 = open('文件路径', '模式') f=open('wangyakun','a+',encoding='utf-8') #文件名, 如果是绝对路径 ...
- 总结day7 ---- 文件操作,读,写,追加,以及相关方法
内容大纲 一:文件的基本操作, >常见问题 >encoding >绝对路径和相对路径的 二:文件的读写追加相关操作 >读(r, r+ ,rb,r+b) >写(w,w+,w ...
随机推荐
- BFS(二)转动转盘锁
对应 LeetCode 752.转动转盘锁 ### 问题定义 你有一个带有四个圆形拨轮的转盘锁.每个拨轮都有10个数字: '0', '1', '2', '3', '4', '5', '6', '7', ...
- 如何延长window11更新信息?
前言 日常使用电脑的时候,我们总是会遇到一个很常见的问题:如何关闭windows自动更新. 解决方法一: 暂停更新 解决方法二: 打开注册表: 运行 => regedit 进入: HKEY_LO ...
- OUT了吧,Kafka能实现消息延时了
摘要:本文讲述如何在保存Kafka特有能力的情况下给Kafka扩充一个具有能处理延时消息场景的能力. 本文分享自华为云社区<Kafka也能实现消息延时了?>,作者:HuaweiCloudD ...
- 熔断、限流、降级 —— SpringCloud Alibaba Sentinel
Sentinel 简介 Sentinel 是阿里中间件团队开源的,面向分布式服务架构的高可用流量防护组件,主要以流量为切入点,从限流.流量整形.熔断降级.系统负载保护.热点防护等多个维度来帮助开发者保 ...
- 人工智能聊天DEMO
import urllib.parse import requests #调用机器人接口 def qingyunke(msg): url = "http://api.qingyunke.co ...
- 使用 DPO 微调 Llama 2
简介 基于人类反馈的强化学习 (Reinforcement Learning from Human Feedback,RLHF) 事实上已成为 GPT-4 或 Claude 等 LLM 训练的最后一步 ...
- Lambda 表达式各种用法,你都会了吗
公众号「架构成长指南」,专注于生产实践.云原生.分布式系统.大数据技术分享. 前言 Lambda表达式是 Java 8 中引入的最有影响力的功能之一.它们通过允许简洁而优雅地创建匿名函数来实现 Jav ...
- Spark面试题(六)——Spark资源调优
Spark系列面试题 Spark面试题(一) Spark面试题(二) Spark面试题(三) Spark面试题(四) Spark面试题(五)--数据倾斜调优 Spark面试题(六)--Spark资源调 ...
- Linux--修改会话超时时间
控制用户在一段时间内没有活动时会话的自动注销时间 1.修改ssh配置文件(适用于SSH会话) vim /etc/ssh/sshd_config ClientAliveInterval 1800 #秒 ...
- 为什么加了@Transactional注解,事务没有回滚?
在昨天的<事务管理入门>一文发布之后,有读者联系说根据文章尝试,加了@Transactional注解之后,事务并没有回滚.经过一顿沟通排查之后,找到了原因,在此记录一下,给后面如果碰到类似 ...