Oracle Exadata存储节点主动替换磁盘最佳实践

我们的文章会在微信公众号IT民工的龙马人生和博客网站( www.htz.pw )同步更新，欢迎关注收藏，也欢迎大家转载，但是请在文章开始地方标注文章出处，谢谢！

由于博客中有大量代码，通过页面浏览效果更佳。

前言

写这边文章的初衷是来自于上次的朋友案例，朋友咨询哪些情况下需要主动替换一体机的磁盘，所以这里我们就简单的聊聊这个话题。

在Oracle Exadata环境中，存储节点的磁盘通常在出现故障或被系统标记为有问题时才需要更换。Exadata的存储管理软件具有完善的自动化机制来处理这些情况。然而，在某些特定场景下，主动（Proactively）更换磁盘是一种必要且明智的预防性维护措施，比如在上次我们分享的替换磁盘的案例中，操作系统已经给出IO错误，标识有损坏时，一体机软件并没有统计IO错误，也没有给出对应的警告。

这里结合Oracle官方文档和过去的最佳实践，详细探讨在Exadata存储节点上主动更换磁盘的适用场景、具体操作步骤以及不同方法之间的差异，旨在为数据库和系统管理员提供一份清晰、实用的操作指南。

为什么要主动更换磁盘？

通常情况下，我们不建议手动干预Exadata的磁盘管理。存储软件会根据坏块数量（errorCount）、Scrubbing等一系列复杂的健康度指标来判断磁盘的健康度，决定磁盘是否需要被替换。

但是，在以下几种情况同时满足时，主动更换磁盘是值得考虑的：

磁盘错误数持续增长：通过CellCLI> list physicaldisk <disk_name> detail观察到errorCount在不断增加，这通常是磁盘健康状况恶化的明显迹象。
设备老旧：对于已经运行超过5年甚至更长时间的老旧Exadata设备，硬件故障的风险自然更高，同时操作系统中已经有IO异常的提示。
Normal冗余磁盘组：如果您的ASM磁盘组（Disk Group）使用的是Normal冗余，那么在单块磁盘故障期间，冗余度会暂时降低，此时如果再有一块盘出现问题，将可能导致数据丢失。
高IO负载、高容量磁盘：在高IO复杂和高容量磁盘的环境中，为不影响业务性能的前提下，常常更换一个磁盘需要持续几天时间，所以在此环境中，可以适当的采用主动更换磁盘的方式。

在这些情况下，主动更换有潜在风险的磁盘，可以有效避免因突发性磁盘彻底损坏而导致的数据风险和计划外的紧急维护。

主动更换磁盘的操作步骤

主动更换磁盘的核心命令是ALTER PHYSICALDISK ... DROP FOR REPLACEMENT。这个命令会检查目标磁盘上的GridDisk是否可以被安全地从ASM磁盘组中offline，而不会导致磁盘组被强制dismount。

根据您使用的Exadata System Software版本的不同，操作步骤会有所差异。

场景一：Exadata System Software >= 21.2.0

从21.2.0版本开始，Oracle引入了MAINTAIN REDUNDANCY选项，这使得整个换盘过程可以在不降低ASM磁盘组冗余度的情况下完成。

操作命令：

CellCLI> alter physicaldisk X:Y drop for replacement maintain redundancy

其中 X:Y 是您需要替换的磁盘名称，例如 20:5。

工作流程：

该命令会首先将该磁盘上的数据在ASM层面进行一次完整的重分布（Rebalance）。
在Rebalance完成之后，系统才会将该磁盘标记为可移除状态，并点亮蓝色的 "OK to Remove" LED灯。
更换新磁盘后，系统会自动将新盘加入，并触发第二次全局的Rebalance。

优缺点：

优点：在整个操作过程中，ASM磁盘组始终保持其原有的冗余级别，数据安全性最高。
缺点：会触发两次完整的全局Rebalance，第一次Rebalance完成前无法换盘，整个过程可能耗时非常长（甚至一两天），对系统I/O压力也更大。

场景二：Exadata System Software < 21.2.0 或选择不保持冗余度

在老版本中，或者当您希望缩短维护时间窗口时，可以选择不带MAINTAIN REDUNDANCY选项的方式。

操作步骤：

(仅限老版本) 从ASM中手动DROP磁盘：
```
SQL> ALTER DISKGROUP diskgroup_name DROP DISK asm_disk_name;
```
您需要等待这次Rebalance操作完成。

从Cell层面DROP物理磁盘：

CellCLI> alter physicaldisk X:Y drop for replacement

工作流程：

该命令会检查并确认将目标磁盘上的GridDisk脱机（offline）后，不会导致ASM磁盘组因失去足够冗余度而dismount。
检查通过后，相关的GridDisk会从ASM中被置为offline，物理磁盘被禁用，并点亮蓝色LED灯提示可以更换。

优缺点：

缺点：在换盘期间，ASM磁盘组的冗余度会临时性降低。这意味着如果在此时另一块磁盘也发生故障，将有数据丢失的风险。

总结与建议

主动更换Exadata存储磁盘是一项需要谨慎操作的维护任务。

安全优先：如果业务对数据安全性的要求极高，且维护窗口充足，特别是在使用Normal冗余的情况下，推荐使用maintain redundancy选项（需要软件版本 >= 21.2.0）。虽然耗时较长，但能确保数据冗余度不降低。
效率优先：如果是在High冗余的磁盘组中，或者能够接受在短时间内临时降低冗余度，那么不带maintain redundancy选项的方式是更高效的选择。它能显著缩短维护时间，减少对业务性能的影响。

在任何操作之前，请务必：

确认磁盘信息：使用list diskmap等命令准确识别物理磁盘、Cell Disk和Grid Disk的对应关系。
遵循官方文档：本文是对官方文档和实践的总结，但执行时仍建议参考最新的Oracle官方文档。
观察LED灯：在物理拔盘之前，一定要确认机箱上对应磁盘的蓝色OK to Remove LED灯已经亮起。
在高IO负载、大容量磁盘的一体机环境中，在更换磁盘重平衡数据过程中，会影响到数据库IO性能，请随时观察数据库性能指标，曾在多个环境中遇到此类的问题。

希望这篇文章能帮助您更好地理解和执行Exadata的磁盘更换任务。

------------------作者介绍-----------------------

姓名：黄廷忠

现就职：Oracle中国高级服务团队

曾就职：OceanBase、云和恩墨、东方龙马等

电话、微信、QQ：18081072613

个人博客: (http://www.htz.pw)

CSDN地址: (https://blog.csdn.net/wwwhtzpw)

博客园地址: (https://www.cnblogs.com/www-htz-pw)