续1

6. 参考文献:
6.1 文献
http://sery.blog.51cto.com/10037/263515  田逸
http://bbs.chinaunix.net/thread-1643863-1-1.html  ltgzs777  
http://www.moosefs.org/  官网
http://bbs.chinaunix.net/thread-1643015-1-2.html   测试工具

6.1  测试数据

性能测试模型1  
一个不知道名字的哥们的测试结果,我先贴出来,那哥们看到了密我.

小文件性能测试

   

二级100*100文件夹

创建

列表

删除

         

单片15k.5
ext3
client单进程

real
0m0.762s
user
0m0.048s
sys
0m0.261s

real
0m0.179s
user
0m0.036s
sys
0m0.125s

real
0m0.492s
user
0m0.036s
sys
0m0.456s

         

单片15k.5
ext3
client 10并发进程

最长时间:
real
0m0.724s
user
0m0.015s
sys
0m0.123s

最长时间:
real
0m0.057s
user
0m0.006s
sys
0m0.025s

最长时间:
real
0m0.226s
user
0m0.010s
sys
0m0.070s

         

6chunkserver
cache
client单进程

real
0m2.084s
user
0m0.036s
sys
0m0.252s

real
0m4.964s
user
0m0.043s
sys
0m0.615s

real
0m6.661s
user
0m0.046s
sys
0m0.868s

         

6chunkserver
cache
client 10并发进程

最长时间:
real
0m1.422s
user
0m0.007s
sys
0m0.050s

最长时间:
real
0m2.022s
user
0m0.008s
sys
0m0.108s

最长时间:
real
0m2.318s
user
0m0.008s
sys
0m0.136s

         
                 
                 

二级1000*1000文件夹

创建

列表

删除

         

单片15k.5
ext3
client单进程

real
11m37.531s
user
0m4.363s
sys
0m37.362s

real
39m56.940s
user
0m9.277s
sys
0m48.261s

real
41m57.803s
user
0m10.453s
sys
3m11.808s

         

单片15k.5
ext3
client 10并发进程

最长时间:
real
11m7.703s
user
0m0.519s
sys
0m10.616s

最长时间:
real
39m30.678s
user
0m1.031s
sys
0m4.962s

最长时间:
real
40m23.018s
user
0m1.043s
sys
0m19.618s

         

6chunkserver
cache
client单进程

real
3m17.913s
user
0m3.268s
sys
0m30.192s

real
11m56.645s
user
0m3.810s
sys
1m10.387s

real
12m14.900s
user
0m3.799s
sys
1m26.632s

         

6chunkserver
cache
client 10并发进程

最长时间:
real
1m13.666s
user
0m0.328s
sys
0m3.295s

最长时间:
real
4m31.761s
user
0m0.531s
sys
0m10.235s

最长时间:
real
4m26.962s
user
0m0.663s
sys
0m13.117s

         
                 
                 

三级100*100*100文件夹

创建

列表

删除

         

单片15k.5
ext3
client单进程

real
9m51.331s
user
0m4.036s
sys
0m32.597s

real
27m24.615s
user
0m8.907s
sys
0m44.240s

real
28m17.194s
user
0m10.644s
sys
1m34.998s

         

单片15k.5
ext3
client 10进程

最长时间:
real
10m22.170s
user
0m0.580s
sys
0m11.720s

最长时间:
real
33m32.386s
user
0m1.127s
sys
0m5.280s

最长时间:
real
33m7.808s
user
0m1.196s
sys
0m10.588s

         

6chunkserver
cache
client单进程

real
3m21.720s
user
0m3.089s
sys
0m26.635s

real
9m26.535s
user
0m3.901s
sys
1m11.756s

real
10m51.558s
user
0m4.186s
sys
1m26.322s

         

6chunkserver
cache
client 10并发进程

最长时间:
real
1m23.023s
user
0m0.429s
sys
0m3.869s

最长时间:
real
4m10.617s
user
0m0.643s
sys
0m11.588s

最长时间:
real
4m20.137s
user
0m0.649s
sys
0m14.120s

         

6chunkserver
cache
client 50并发进程

最长时间:
real
1m26.388s
user
0m0.074s
sys
0m0.679s

最长时间:
real
4m37.102s
user
0m0.132s
sys
0m2.160s

最长时间:
real
4m37.392s
user
0m0.132s
sys
0m2.755s

         

6chunkserver
cache
client 100并发进程

最长时间:
real
1m29.338s
user
0m0.062s
sys
0m0.363s

最长时间:
real
4m54.925s
user
0m0.069s
sys
0m1.212s

最长时间:
real
4m35.845s
user
0m0.068s
sys
0m1.640s

         

6chunkserver
cache
remote
client 10并发进程

最长时间:
real
4m0.411s
user
0m2.985s
sys
0m12.287s

最长时间:
real
8m31.351s
user
0m4.223s
sys
0m29.800s

最长时间:
real
4m3.271s
user
0m3.206s
sys
0m11.922s

         
                 
                 

三级100*100*100文件夹

1

2

3

4

5

     

变更日志/元数据大小

55M左右

60M左右

60M左右

60M左右

60M左右

     

连续创建耗时

real
4m0.411s
user
0m2.985s
sys
0m12.287s

real
4m12.309s
user
0m3.039s
sys
0m12.899s

real
4m14.010s
user
0m3.418s
sys
0m12.831s

real
4m14.214s
user
0m3.247s
sys
0m12.871s

real
4m14.417s
user
0m3.170s
sys
0m12.948s

     
                 

注:

单盘多进程性能没有提升,因为都在io wait,甚至增加进程会消耗大量调度时间

 
 

MFS多进程时性能会提升,主要性能消耗集中在CPU系统时间。因此实际海量小文件性能要大大强于本地文件系统

性能测试模型2 (感谢 qq群战友 痞子白 提供)
两个Client同时dd测试
数据块1M 文件大小20G
Client1 写:68.4MB/s  读:25.3MB/s
Client2 写:67.5MB/s  读:24.7MB/s
总吞吐:写:135.9MB/s 读:50.0MB/s

写命令:dd if=/dev/zero of=/mfs/test.1 bs=1M count=20000
读命令:dd if=/mfs/test.1 of=/dev/null bs=1M

7. 感谢
田逸
一个不知道名字的哥们(看到请联系我)

8. 附录
8.1  1000 * 1000 * 1 client 脚本
#!/bin/bash
for ((i=0;i<1000;i++))
do
    mkdir ${i}
    cd ${i}
    for ((j=0;j<1000;j++))
      do
        cp /mnt/test ${j}
      done
      cd ..
done
8.2  1000  * 1000  *  ( 100,200 ,1000 client )  脚本
#!/bin/bash
declare -f make_1000_dir_file
cd `pwd`
function make_1000_dir_file {
    start=${1}
    stop=${2}
    for ((i=${start};i<${stop};i++))
    do
        mkdir ${i}
        for ((j=0;j<1000;j++))
        do
            cp /mnt/test ${i}/${j}
        done
    done
}
i=1
while [ ${i} -le 1000 ]
do
    ((n=${i}+1))
    make_1000_dir_file ${i} $ &
    ((i=${i}+1))
done
wait

mfs测试的更多相关文章

  1. MFS分布式文件系统【3】存储节点 CHUNK SERVER 部署

    [root@ky_hs_252 mfs-1.6.27]# mkdir /usr/local/mfs [root@ky_hs_252 mfs-1.6.27]# useradd mfs -s /sbin/ ...

  2. mfs-用户

    http://blog.csdn.net/liuyunfengheda/article/details/5260278 MFS总结 http://bbs.chinaunix.net/thread-16 ...

  3. MooseFS及其高可用部署

    MooseFS的工作原理分析 MooseFS(下面统一称为MFS)由波兰公司Gemius SA于2008年5月30日正式推出的一款Linux下的开源存储系统,是OpenStack开源云计算项目的子项目 ...

  4. MooseFS 分布式存储

    一.MooseFS介绍 MooseFS主要由管理服务器(master).元日志服务器(Metalogger).数据存储服务器(chunkserver)构成. 管理服务器:主要作用是管理数据存储服务器, ...

  5. MFS学习总结

    MFS学习总结 MFS概述.特性和新版改进 MFS 工作原理和设计架构 MFS的安装.部署.配置 MFS的高级特性 MFS的性能测试 MFS集群的维护 MFS的常见问题和建议对策 一.MFS概述.特性 ...

  6. 分布式文件系统MFS(moosefs)实现存储共享(第二版)

    分布式文件系统MFS(moosefs)实现存储共享(第二版) 作者:田逸(sery@163.com) 由于用户数量的不断攀升,我对访问量大的应用实现了可扩展.高可靠的集群部署(即lvs+keepali ...

  7. ETL测试教程

    在我们了解ETL测试之前,先了解有关商业智能和数据仓库的重要性. 让我们开始吧 - 什么是BI? 商业智能是收集原始数据或业务数据并将其转化为有用和更有意义的信息的过程. 原始数据是一个组织每日事务的 ...

  8. mfs 使用心得

    CentOS的安装方法: To install MooseFS from officially supported repository on EL7, follow the steps below: ...

  9. MFS故障测试及维护总结

    一.测试环境说明: 10.2.2.230 mfsmaster     VIP:10.2.2.130 10.2.2.231 mfsbackup 10.2.2.253 mfsdata01 10.2.2.2 ...

随机推荐

  1. mac 开启SSH服务

    SSH服务适用于所有类UNIX系统,例如Ubuntu.CentOS.RedHat,包括Mac OX,在这里简单介绍一下它的部分适用方法. 首先,介绍一下Mac OX,因为SSH在苹果系统上嵌入了,不需 ...

  2. bzoj 4545 DQS 的 Trie

    老年选手不会 SAM 也不会 LCT 系列 我的数据结构好菜啊 qnq 一颗 Trie 树,$q$ 次询问,每次可以是: 1.求这棵树上本质不同的子串数量 2.插入一个子树,保证总大小不超过 $100 ...

  3. ArcGIS Runtime SDK for WPF之测量距离和面积

    bu不多说,上代码 using System.Windows; using ESRI.ArcGIS.Client; using ESRI.ArcGIS.Client.Tasks; using ESRI ...

  4. ASP.NET的几个试题(《C#与.NET程序员面试宝典》)

    更多参考:博客园笔记 :ASP.NET是什么 ASP.NET不是一种语言,而是创建动态Web页的一种强大的服务器端技术,它是Microsoft.NET Framework中一套用于生成Web应用程序和 ...

  5. LA4728 Squares

    题意 PDF 分析 就是求凸包点集的直径. 当然选择旋转卡壳. 然后是实现上的技巧: 当Area(p[u], p[u+1], p[v+1]) <= Area(p[u], p[u+1], p[v] ...

  6. Mac各个文件夹表示的意思

    ca参考链接:http://www.jb51.net/os/MAC/130901.html

  7. Oracle 13c OEM 安装手册

    1       安装准备工作 以下包已Redhat 为准,其他版的操作系统以官方手册为准. 1.1         Oracle Management Service 依赖如下包 glibc-comm ...

  8. Linux下GCC和Makefile实例(从GCC的编译到Makefile的引入)

    一.确认已经装好了GCC和Make的软件包 可以使用whereis命令查看: 如果whereis  gcc和whereis  make命令有结果,说明安装了这两个软件,可以继续往下做. 二.使用GCC ...

  9. 【转】关于一个Jmeter interface testing的实例

    目标:测试某个保险系统的费率接口 准备:a 请求方式:Http b 接口地址://10.1.1.223:9090/rulesEngine/executeRateRule.do Jmeter 设置: a ...

  10. java图形用户界面边界布局管理器

    总结:不同方向的组件,所用的板是不同的: package com.moc; //用布局写一个界面 ///运用边界布局 //2个按钮在北,2个按钮在南 //中央一个大按钮 //将同一方向的组件封装后布局 ...