Linux运维---磁盘存储-2. RAID

随着单块磁盘在数据安全、性能、容量上呈现出的局限，磁盘阵列（Redundant Arrays of Inexpensive/Independent Disks，RAID）出现了，RAID把多块独立的磁盘按不同的方式组合起来，形成一个磁盘组，以获得比单块磁盘更高的数据安全、性能、容量。

一. 常见的RAID 级别

RAID有RAID0~RAID7几种级别，另外还有一些复合的RAID模式，比如：RAID10、RAID01、RAID50、RAID53。

常用的RAID模式有RAID0、RAID1、RAID5、RAID10。

1. RAID0

RAID0也就是常说的数据条带化(Data Stripping)，数据被分散存放在阵列中的各个物理磁盘上，需要2块及以上的硬盘，成本低，性能和容量随硬盘数递增，在所有的RAID级别中，RAID 0的速度是最快的，但是RAID 0没有提供冗余或错误修复能力，如果一个磁盘（物理）损坏，则所有的数据都无法使用。

对于有容灾模式的RAID阵列，某块磁盘损坏时，只要换上新的硬盘即可，阵列系统会自动同步数据到新的硬盘。(不支持热插拔的话，需要先关机再开机)

1. RAID1

RAID1也就是常说的数据镜像(Data Mirroring)，2块及以上的硬盘(偶数个)，被分为2组，数据在每组磁盘中各有一份，若其中一组有磁盘损坏，另一组可以保证数据访问不会中断。RAID1同RAID0一样，有很好的读取速度，但是写的速度，有所下降。

1. RAID5

RAID 5 是一种数据安全、性能、容量、成本、可行性都相对兼顾的解决方案，正因此，类似的RAID2、RAID3、RAID4、RAID6很少得以实际应用。 RAID5需要3块及以上的硬盘， 它不是对存储的数据直接进行备份，而是把数据和相对应的奇偶校验信息存储到组成阵列的各个磁盘上，简单来说就是：任意坏掉一块盘时，另外的N-1块盘可以利用奇偶校验信息，把这块坏掉的磁盘上的数据恢复出来。 RAID 5可以理解为是RAID 0和RAID 1的折衷方案，有和RAID 0相近似的数据读取速度，有比RAID1低的容灾能力(RAID5只允许一块磁盘损坏)，因为多了奇偶校验信息，写入数据的速度比RAID1慢。

1. RAID10

RAID10，名称上便可以看出是RAID0与RAID1的结合体，显然需要至少4块磁盘。不过，先RAID0后RAID1，还是先RAID1后RAID0，是不一样的。

RAID01，是先做RAID0，然后对2组RAID0再做RAID1，假设此时某个RAID0坏掉一块磁盘，这个RAID0随即不可用，所有的IO全部指向剩下的那个RAID0；

RAID10，是先做RAID1，然后对2组RAID1再做RAID0，假设此时某个RAID1坏掉一块磁盘，当前RAID1仍然能提供服务，并且另一个RAID1也同时可以坏掉一块磁盘。

所以，我们通常选择RAID10，而不是RAID01。

1. 不同RAID级别的读写性能

假设都用4块磁盘，RAID0，RAID1，RAID5，RAID10在多线程/多CPU情况下，都可以同时读取多块磁盘，读的性能都很不错； 写的性能(IOPS)依次递减，大致是：RAID0 > RAID10 > RAID1 > RAID5。 二. RAID的空间计算

在做RAID时，通常选择统一规格的磁盘，如果真的有不同空间大小、不同读写速度的磁盘，阵列系统会以空间小、速度低的为标准，空间大、速度高的磁盘向下兼容。比如：100G，50G的2块磁盘做RAID0，得到的空间为50G*2 = 100G。

RAID的空间计算公式： RAID0的空间：Disk Size * N RAID1的空间：(Disk Size * N)/2 RAID5的空间：((N-1)/N) * (Disk Size * N) = (N-1) * Disk Size RAID10的空间：(Disk Size * N/2)/2 + (Disk Size * N/2)/2 = (Disk Size * N)/2

假设都用4块磁盘，每块磁盘都为100G RAID0的空间：100G * 4 = 400G RAID1的空间：(100G * 4)/2 = 200G RAID5的空间：(4-1) * 100G = 300G RAID10的空间： (100G * 4)/2 = 200G 三. RAID的IOPS计算

1. 单块硬盘的IOPS是固定的 关于单块磁盘IOPS的计算，中有详细的方法，但通常这个值是相对固定的，不需要重复计算，参考如下：

可以发现，同样转数，不同型号的单块磁盘，IOPS都维持在一个类似的数量级。

1. RAID的IOPS计算 有了单块磁盘的IOPS，那么多块磁盘的IOPS计算就很简单了，比如，对于RAID0或者单纯串联磁盘(JBOD: just a bunch of disks)的存储来说，10块175 IOPS的磁盘的总IOPS就是10*175 = 1750 IOPS。 但是对于其他RAID级别并不是这样，因为RAID有多次写IO的开销存在，简单来说就是：对RAID发起一次写IO，RAID内部会有不止一次的写IO发生，RAID内部的IO开销如下：

从图中得到公式：用户读IO+N*用户写IO = 总IOPS (N就是RAID内部的IO开销次数)

假设用户读写请求各一半(50%)，同样还是以10块175 IOPS的磁盘为例： 50% * 用户总IO请求数 + N * (50% * 用户总IO请求数) = 175 IOPS * 10

以RAID1为例，那么N = 2，上式变为：1.5 *用户总IO请求数 = 1750 IOPS 用户总IO请求数 = 1167 IOPS 这就是10块175 IOPS的磁盘做了RAID1，所能提供的IOPS。

可参考写惩罚（write penalty)

1. RAID的IOPS计算在现实中的应用 在实际使用中，我们通常不是计算现有RAID的IOPS，而是反过来：选择好磁盘规格，RAID模式，测试出系统的读写比例，系统需要达到的IOPS，然后看看，需要多少块硬盘来完成阵列，才能达到这样的IOPS需求？

假设：选择了175 IOPS的磁盘，做RAID1，系统读写比例为60%:40%，系统需要达到2000 IOPS 问：要配置多少块这样规格的硬盘？

把上面的公式改为通用公式： reads * WorkloadIOPS + writesimpact * (writes * Workload_IOPS) = 175 * M 60% * 2000 + 2 * (40% * 2000) = 175 * M M = 16 (也就是说，要达到指定的2000 IOPS，RAID1需要配置16块175 IOPS的磁盘)

可能有人会觉得，系统的读写请求比例，系统需要达到多少IOPS，并不知道，如果没有前期测试的话，那么只能根据经验来估测了。 四. RAID在数据库存储上的应用

以SQL Server数据库为例，看下不同的RAID级别适用于什么场景： RAID0，由于没有容灾机制，很少被单独使用。

RAID1，操作系统、SQL Server实例、日志文件； RAID5，数据文件，备份文件； RAID10，所有类型都适用，不过考虑成本，通常不会全部使用RAID10。 五、使用mdadm创建RAID 创建RAID阵列

我们可以通过 mdadm 命令来创建软件RAID，比如下面命令可以创建一个RAID5

sudo mdadm --create /dev/md0 -a yes -l 5 -n 3 /dev/sdb /dev/sdc /dev/sdd -x  1 /dev/sde

其中

--create /dev/md0 创建一个新RAID，名字叫做 /dev/md0 -a yes 自动在/dev/下创建对应的RAID阵列设备 -l 5 指定RAID级别为5 -n 3 指定硬盘数量。表示用三块硬盘来创建RAID5,分别为 /dev/sdb, /dev/sdc, /dev/sdd

我们会发现 /dev 下出现了一个名为 md0 的设备

ls -l /dev/md0

brw-rw----. 1 root disk 9, 0 Sep 11 09:40 /dev/md0

自动启用RAID

在创建好RAID以后，可以将RAID信息保存到 /etc/mdadm.conf 文件中，这样在下次操作系统重新启动时，系统会自动加载这个文件来启用RAID

sudo mdadm -D --scan >/etc/mdadm.conf
cat /etc/mdadm.conf

ARRAY /dev/md0 metadata=1.2 name=MiWiFi-R3-srv:0 UUID=ece6c656:c9999ff6:9d17c0ec:08a0e3af

查看RAID阵列信息

创建好RAID阵列后，我们可以通过 mdadm --misc 模式来查看刚创建好的RAID的详细信息

mdadm --misc --detail /dev/md0

/dev/md0:
           Version : 1.2
     Creation Time : Tue Sep 11 09:40:45 2018
        Raid Level : raid5
        Array Size : 16758784 (15.98 GiB 17.16 GB)
     Used Dev Size : 8379392 (7.99 GiB 8.58 GB)
      Raid Devices : 3
     Total Devices : 3
       Persistence : Superblock is persistent

       Update Time : Tue Sep 11 10:03:35 2018
             State : clean
    Active Devices : 3
   Working Devices : 3
    Failed Devices : 0
     Spare Devices : 0

            Layout : left-symmetric
        Chunk Size : 512K

Consistency Policy : resync

              Name : MiWiFi-R3-srv:0  (local to host MiWiFi-R3-srv)
              UUID : ece6c656:c9999ff6:9d17c0ec:08a0e3af
            Events : 18

    Number   Major   Minor   RaidDevice State
       0       8       16        0      active sync   /dev/sdb
       1       8       32        1      active sync   /dev/sdc
       3       8       48        2      active sync   /dev/sdd

或者我们也可以通过 /proc/mdstat 文件来查看RAID的简洁信息

cat /proc/mdstat

Personalities : [raid6] [raid5] [raid4]
md0 : active raid5 sdd[3] sdc[1] sdb[0]
      16758784 blocks super 1.2 level 5, 512k chunk, algorithm 2 [3/3] [UUU]

unused devices: <none>

使用RAID阵列

在创建好RAID阵列后，我们就不能直接操作组成阵列的磁盘了，否则会损坏刚创建好的RAID阵列。 我们通过 /dev/md0 这个设备来进行文件格式化和挂载

set -x
exec 2>&1
mkfs.xfs -f /dev/md0
mount /dev/md0 /mnt
mount |grep md0

+ mkfs.xfs -f /dev/md0
meta-data=/dev/md0               isize=512    agcount=16, agsize=261760 blks
         =                       sectsz=512   attr=2, projid32bit=1
         =                       crc=1        finobt=0, sparse=0
data     =                       bsize=4096   blocks=4188160, imaxpct=25
         =                       sunit=128    swidth=256 blks
naming   =version 2              bsize=4096   ascii-ci=0 ftype=1
log      =internal log           bsize=4096   blocks=2560, version=2
         =                       sectsz=512   sunit=8 blks, lazy-count=1
realtime =none                   extsz=4096   blocks=0, rtextents=0
+ mount /dev/md0 /mnt
+ mount
+ grep md0
/dev/md0 on /mnt type xfs (rw,relatime,seclabel,attr2,inode64,sunit=1024,swidth=2048,noquota)

关闭RAID

我们可以通过 mdadm --misc 模式来关闭RAID。这会释放所有资源

在关闭RAID之前需要先卸载RAID:

sudo umount /mnt

然后关闭RAID

sudo mdadm --misc --stop /dev/md0

关闭RAID后，我们可以通过 mdadm --misc --zero-superblock 来清空磁盘中RAID阵列的超级块信息。 清空就能够正常使用这些磁盘了

mdadm --misc --zero-superblock /dev/sdb
mdadm --misc --zero-superblock /dev/sdc
mdadm --misc --zero-superblock /dev/sdd

模拟RAID故障

我们可以通过 mdadm --manage /dev/md0 --fail 来将某块磁盘设置成故障状态

sudo mdadm /dev/md0 -f /dev/sdd 2>&1

mdadm: set /dev/sdd faulty in /dev/md0

然后我们再来查一下这个RAID的信息

sudo mdadm --misc --detail /dev/md0

/dev/md0:
           Version : 1.2
     Creation Time : Tue Sep 11 10:32:21 2018
        Raid Level : raid5
        Array Size : 16758784 (15.98 GiB 17.16 GB)
     Used Dev Size : 8379392 (7.99 GiB 8.58 GB)
      Raid Devices : 3
     Total Devices : 3
       Persistence : Superblock is persistent

       Update Time : Tue Sep 11 10:35:12 2018
             State : clean, degraded
    Active Devices : 2
   Working Devices : 2
    Failed Devices : 1
     Spare Devices : 0

            Layout : left-symmetric
        Chunk Size : 512K

Consistency Policy : resync

              Name : MiWiFi-R3-srv:0  (local to host MiWiFi-R3-srv)
              UUID : c031d0c9:998a4e86:5cf90e71:52b229cd
            Events : 20

    Number   Major   Minor   RaidDevice State
       0       8       16        0      active sync   /dev/sdb
       1       8       32        1      active sync   /dev/sdc
       -       0        0        2      removed

       3       8       48        -      faulty   /dev/sdd

你会发现 /dev/sdd 的状态现在变成了 faulty, 但是RAID5这个级别是允许一块磁盘损坏而不造成数据损坏的。 移除RAID阵列中的磁盘

sudo mdadm --manage /dev/md0 --remove /dev/sdd

更换新磁盘

set -x
exec 2>&1
sudo mdadm --manage /dev/md0 --add /dev/sdd
sudo mdadm --misc --detail /dev/md0

+ sudo mdadm --manage /dev/md0 --add /dev/sdd
mdadm: added /dev/sdd
+ sudo mdadm --misc --detail /dev/md0
/dev/md0:
           Version : 1.2
     Creation Time : Tue Sep 11 10:32:21 2018
        Raid Level : raid5
        Array Size : 16758784 (15.98 GiB 17.16 GB)
     Used Dev Size : 8379392 (7.99 GiB 8.58 GB)
      Raid Devices : 3
     Total Devices : 3
       Persistence : Superblock is persistent

       Update Time : Tue Sep 11 10:40:41 2018
             State : clean, degraded
    Active Devices : 2
   Working Devices : 3
    Failed Devices : 0
     Spare Devices : 1

            Layout : left-symmetric
        Chunk Size : 512K

Consistency Policy : resync

              Name : MiWiFi-R3-srv:0  (local to host MiWiFi-R3-srv)
              UUID : c031d0c9:998a4e86:5cf90e71:52b229cd
            Events : 22

    Number   Major   Minor   RaidDevice State
       0       8       16        0      active sync   /dev/sdb
       1       8       32        1      active sync   /dev/sdc
       -       0        0        2      removed

       3       8       48        -      spare   /dev/sdd​