DM 多路径存储

DM多路径存储
 系统环境：RHEL5.4 small install  selinux and iptables disabled主机规划：
主机网卡软件station133eth0: 192.168.0.133
eth1: 192.168.0.132scsi-target-utilsstation28
eth0: 192.168.0.28
Iscsi-initiator-utils device-mapper
device-mapper-multipath
什么是multipath
普通的电脑主机都是一个硬盘挂接到一个总线上，这里是一对一的关系。而到了有光纤组成的SAN环境，由于主机和存储通过了光纤交换机连接，这样的话，就构成了多对多的关系。也就是说，主机到存储可以有多条路径可以选择。主机到存储之间的IO由多条路径可以选择。
 既然，每个主机到所对应的存储可以经过几条不同的路径，如果是同时使用的话，I/O流量如何分配？其中一 条路径坏掉了，如何处理？还有在操作系统的角度来看，每条路径，操作系统会认为是一个实际存在的物理盘，但实际上只是通向同一个物理盘的不同路径而已，这样是在使用的时候，就给用户带来了困惑。多路径软 件就是为了解决上面的问题应运而生的。多路径的主要功能就是和存储设备一起配合实现如下功能：
1) 故障的切换和恢复2) IO流量的负载均衡3.) 磁盘的虚拟化一套完整的multipath由下面几部分组成：

1) device-mapper-multipath
 提供multipathd和multipath等工具和multipath.conf等配置文件。这些工具通过device mapper的ioctr的接口创建和配置multipath设备（调用device-mapper的用户空间库。创建的多路径设备会在/dev /mapper中）；
2) device-mapper
device-mapper包括两大部分：内核部分和用户部分。
 内核部分由device-mapper核心（multipath.ko）和一些target driver（dm-multipath.ko）构成。dm-mod.ko是实现multipath的基础，dm-multipath其实是dm 的一个target驱动。核心完成设备的映射，而target根据映射关系和自身特点具体处理从mappered device 下来的i/o。同时，在核心部分，提供了一个接口，用户通过ioctr可和内核部分通信，以指导内核驱动的行为，比如如何创建mappered device，这些device的属性等。
用户空间部分包括device-mapper这个包。其中包括dmsetup 工具和一些帮助创建和配置mappered device的库。这些库主要抽象，封装了与ioctr通信的接口，以便方便创建和配置mappered device。Device-mapper-multipath的程序中就需要调用这些库；
3)  scsi_id
 其包含在udev程序包中，可以在multipath.conf中配置该程序来获取scsi设备的序号。通过序号，便可以 判断多个路径对应了同一设备。这个是多路径实现的关键。scsi_id是通过sg驱动，向设备发送EVPD page80或page83 的inquery命令来查询scsi设备的标识。但一些设备并不支持EVPD 的inquery命令，所以他们无法被用来生成multipath设备。但可以改写scsi_id，为不能提供scsi设备标识的设备虚拟一个标 识符，并输出到标准输出。

multipath程序在创建multipath设备时，会调用scsi_id，从其标准输出中获得该设备的scsi id。在改写时，需要修改scsi_id程序的返回值为0。因为在multipath程序中，会检查该直来确定scsi id是否已经成功得到。
Active/Active MultipathActive/Passive Multipath
Active/Passive Multipath

1. 软件安装station133:
yum install scsi-target-utils -y
station28:
yum install Iscsi-initiator-utils device-mapper device-mapper-multipath -y2. ISCSI配置station133:
service tgtd start
tgtadm --lld iscsi --mode target --op new --tid 1 -T storage1
tgtadm  --lld iscsi --mode logicalunit --op new --tid 1 --lun 1 -b /dev/xvdb1tgtadm --lld iscsi --mode target --op bind --tid 1 -I ALLstation28:
service iscsid start
iscsiadm -m discovery -t st -p 192.168.0.133iscsiadm -m node -T storage1 -p 192.168.0.133 -liscsiadm -m discovery -t st -p 192.168.0.132iscsiadm -m node -T storage1 -p 192.168.0.132 -l3. DM配置
vi /etc/multipath.confblacklist {
        devnode "sda"#禁止使用/dev/sda设备
}
defaults {
       user_friendly_names yes

　　udev_dir               /dev

　　 path_grouping_policy    failover#failover  为主备模式；multibus为负载均衡模式
       failback                immediate

　　 no_path_retry           fail

}
#multipath.conf的配置参数、默认值，可参考：
#/usr/share/doc/device-mapper-multipath-0.4.7/multipath.conf.annotatedservice multipathd start
启动成功后，我们会在dev目录下看到下面的目录：
/dev/mapper/mpathn 是multipath虚拟出来的多路径设备,我们应该使用这个设.
/dev/mpath/mpathn 是udev设备管理器创建的,实际上就是指向下面的dm-n设备,仅为方便,不能用来挂载./dev/dm-n 是软件内部自身使用的,不能被软件以外使用,不可挂载.

multipath -ll
mpath0 (S_beaf11) dm-2 IET,VIRTUAL-DISK[size=1.9G][features=0][hwhandler=0][rw]

\_ round-robin 0 [prio=1][active]

\_ 3:0:0:1 sdb 8:16  [active][ready]

\_ round-robin 0 [prio=1][enabled]

\_ 4:0:0:1 sdc 8:32  [active][ready]
注：可以看到sdb和sdc两条链路复合成一条链路mpath0，此为Failover（主备）情况，当你对mpath0设备读写时，处于active状态的sdb链路有数据流，而处于enabled状态的sdc 链路无数据流；当sdb链路出现问题时，才会切换到sdc链路上。
4. 测试
用dd往磁盘读写数据，然后用iostat观察各通道的流量和状态，以判断Failover或负载均衡方式是否正常：dd if=/dev/zero of=/dev/mapper/mpath0iostat -k 2
multipath -p multibus -v0
#切换成负载均衡模式
multipath -ll
mpath0 (S_beaf11) dm-2 IET,VIRTUAL-DISK[size=1.9G][features=0][hwhandler=0][rw]

\_ round-robin 0 [prio=2][enabled]

\_ 3:0:0:1 sdb 8:16  [active][ready]

\_ 4:0:0:1 sdc 8:32  [active][ready]