Oracle ASM diskgroup在主机重启后启动失败

环境：RHEL 6.4 + Oracle 11.2.0.3 + ASM单实例

1.重启主机后,+DATA diskgroup启动不成功,现象如下：

[grid@JY-DB ~]$ crsctl stat res -t
--------------------------------------------------------------------------------
NAME           TARGET  STATE        SERVER                   STATE_DETAILS
--------------------------------------------------------------------------------
Local Resources
--------------------------------------------------------------------------------
ora.DATA.dg
               ONLINE  OFFLINE      jy-db
ora.LISTENER.lsnr
               ONLINE  ONLINE       jy-db
ora.asm
               ONLINE  ONLINE       jy-db                    Started
ora.ons
               OFFLINE OFFLINE      jy-db
--------------------------------------------------------------------------------
Cluster Resources
--------------------------------------------------------------------------------
ora.cssd
              ONLINE  ONLINE       jy-db
ora.diskmon
              OFFLINE OFFLINE
ora.evmd
              ONLINE  ONLINE       jy-db
ora.jyzhao.db
              ONLINE  OFFLINE                               Instance Shutdown   

2.尝试手动启动data磁盘组失败，报错如下：

[grid@JY-DB ~]$ srvctl start diskgroup -g data
PRCR- : 无法启动资源 ora.DATA.dg
CRS-: The resource action "ora.DATA.dg start" encountered the following error:
ORA-: not all alterations performed
ORA-: diskgroup "DATA" cannot be mounted
ORA-: ASM discovered an insufficient number of disks for diskgroup "DATA"
. For details refer to "(:CLSN00107:)" in "/u01/app/11.2.0/grid/log/jy-db/agent/ohasd/oraagent_grid/oraagent_grid.log".

CRS-: Start of 'ora.DATA.dg' on 'jy-db' failed
[grid@JY-DB ~]$  id
uid=(grid) gid=(oinstall) 组=(oinstall),(dba),(asmadmin),(asmdba),(asmoper) 环境=unconfined_u:unconfined_r:unconfined_t:s0-s0:c0.c1023
[grid@JY-DB ~]$ 

3.网上搜索得知Linux重启会重置raw设备的ownership.

On Linux, at least, a restart of the system will reset the ownership of raw devices. The usual trick is to have some config or init routine reset the ownership.

4.检查data磁盘组对应的磁盘设备属主，更改为grid:oinstall

[root@JY-DB ~]# cd /dev/mapper/
[root@JY-DB mapper]# ls
control  ora_vg-lv_asm1  ora_vg-lv_asm2  ora_vg-lv_asm3  ora_vg-lv_asm4  ora_vg-lv_usr2  VolGroup-lv_home  VolGroup-lv_root  VolGroup-lv_swap
[root@JY-DB mapper]# ls -lh
总用量
crw-rw----.  root root ,  10月   : control
lrwxrwxrwx.  root root       10月   : ora_vg-lv_asm1 -> ../dm-
lrwxrwxrwx.  root root       10月   : ora_vg-lv_asm2 -> ../dm-
lrwxrwxrwx.  root root       10月   : ora_vg-lv_asm3 -> ../dm-
lrwxrwxrwx.  root root       10月   : ora_vg-lv_asm4 -> ../dm-
lrwxrwxrwx.  root root       10月   : ora_vg-lv_usr2 -> ../dm-
lrwxrwxrwx.  root root       10月   : VolGroup-lv_home -> ../dm-
lrwxrwxrwx.  root root       10月   : VolGroup-lv_root -> ../dm-
lrwxrwxrwx.  root root       10月   : VolGroup-lv_swap -> ../dm-

[root@JY-DB mapper]# cd ..
[root@JY-DB dev]# ls -lh
总用量
drwxr-xr-x.  root root          10月   : block
drwxr-xr-x.  root root        .5K 10月   : char
crw-------.  root root      ,    10月   : console
lrwxrwxrwx.  root root           10月   : core -> /proc/kcore
drwxr-xr-x.  root root          10月   : cpu
crw-rw----.  root root     ,   10月   : cpu_dma_latency
crw-rw----.  root root     ,   10月   : crash
drwxr-xr-x.  root root          10月   : disk
brw-rw----.  root disk    ,    10月   : dm-
brw-rw----.  root disk    ,    10月   : dm-
brw-rw----.  root disk    ,    10月   : dm-
brw-rw----.  root disk    ,    10月   : dm-
brw-rw----.  root disk    ,    10月   : dm-
brw-rw----.  root disk    ,    10月   : dm-
brw-rw----.  root disk    ,    10月   : dm-
brw-rw----.  root disk    ,    10月   : dm-
……
crw-rw-rw-.  root root       ,    10月   : zero

[root@JY-DB dev]# chown grid:oinstall dm*
[root@JY-DB dev]# ls -lh
总用量
drwxr-xr-x.  root root           10月   : block
drwxr-xr-x.  root root         .5K 10月   : char
crw-------.  root root       ,    10月   : console
lrwxrwxrwx.  root root            10月   : core -> /proc/kcore
drwxr-xr-x.  root root           10月   : cpu
crw-rw----.  root root      ,   10月   : cpu_dma_latency
crw-rw----.  root root      ,   10月   : crash
drwxr-xr-x.  root root           10月   : disk
brw-rw----.  grid oinstall ,    10月   : dm-
brw-rw----.  grid oinstall ,    10月   : dm-
brw-rw----.  grid oinstall ,    10月   : dm-
brw-rw----.  grid oinstall ,    10月   : dm-
brw-rw----.  grid oinstall ,    10月   : dm-
brw-rw----.  grid oinstall ,    10月   : dm-
brw-rw----.  grid oinstall ,    10月   : dm-
brw-rw----.  grid oinstall ,    10月   : dm-
……
crw-rw-rw-.  root root       ,    10月   : zero

5.此时再次尝试手动启动磁盘组成功

[grid@JY-DB ~]$ srvctl start diskgroup -g data
[grid@JY-DB ~]$ crsctl stat res -t
--------------------------------------------------------------------------------
NAME           TARGET  STATE        SERVER                   STATE_DETAILS
--------------------------------------------------------------------------------
Local Resources
--------------------------------------------------------------------------------
ora.DATA.dg
               ONLINE  ONLINE       jy-db
ora.LISTENER.lsnr
               ONLINE  ONLINE       jy-db
ora.asm
               ONLINE  ONLINE       jy-db                    Started
ora.ons
               OFFLINE OFFLINE      jy-db
--------------------------------------------------------------------------------
Cluster Resources
--------------------------------------------------------------------------------
ora.cssd
              ONLINE  ONLINE       jy-db
ora.diskmon
              OFFLINE OFFLINE
ora.evmd
              ONLINE  ONLINE       jy-db
ora.jyzhao.db
              ONLINE  ONLINE       jy-db                    Open
[grid@JY-DB ~]$