Flashcache基本使用及注意事项

Flashcache基本使用及注意事项

发表回复

环境：Centos6.5 x64 minal

安装方法

Contents [hide]

• 1 安装方法
• 2 自动加载模块
• 3 创建Flashcache
• 4 加载缓存设备
• 5 使用Flashcache
• 6 销毁Flashcache
• 7 Flashcache参数优化
• 8 Flashcache开机启动
• 9 Flashcache状态监控
• 10 参考文档

1.rpm安装

 

1 2 3

rpm --import http://elrepo.org/RPM-GPG-KEY-elrepo.org rpm -Uvh http://elrepo.org/elrepo-release-6-5.el6.elrepo.noarch.rpm yum install flashcache-utils kmod-flashcache

2.源码安装

 

1 2 3 4 5 6

rpm -ivh http://mirrors.ustc.edu.cn/centos/6.5/os/x86_64/Packages/kernel-headers-2.6.32-431.el6.x86_64.rpm rpm -ivh http://mirrors.ustc.edu.cn/centos/6.5/os/x86_64/Packages/kernel-devel-2.6.32-431.el6.x86_64.rpm wget https://github.com/facebook/flashcache/archive/3.1.2.tar.gz tar xf 3.1.2.tar.gz cd flashcache-3.1.2 make && make install

自动加载模块

开机自动加载模块配置：

 

1 2 3 4 5 6 7 8

vim /etc/sysconfig/modules/flashcache.modules   #! /bin/sh /sbin/modinfo -F filename flashcache > /dev/null 2>&1  if [ $? -eq 0 ]; then     /sbin/modprobe flashcache fi  chmod +x  /etc/sysconfig/modules/flashcache.modules

模块的自动加载最好不要采用写入/etc/rc.local的方式

 

1 2 3 4 5 6 7 8 9 10

##加载flashcache模块 modprobe flashcache                     ##查看flashcache模块是否加载 [root@localhost ~]# lsmod |grep flashcache  flashcache 92068 0  dm_mod 84209 14 flashcache,dm_mirror,dm_log   ##删除flashcache模块 rmmod flashcache

创建Flashcache

SSD:/dev/sdc

SAS:/dev/sdb2

创建设备名为cachedev的flashcache

 

1	flashcache_create -p back -b 4k cachedev /dev/sdc /dev/sdb2

生成/dev/mapper/cachedev设备
指定flashcache的block大小与Percona的page大小相同,一般默认

flashcache_create相关参数说明：

-p:缓存模式 writeback(数据先写到SSD，随后写到普通硬盘)，
                    writethrough(数据同时写到SSD和普通硬盘)，
                    writearound（数据绕过SSD，直接写到普通硬盘）三种，三种模式的所有读都会被缓存到flashcache可以通过dev.flashcache.<cachedev>.cache_all参数调整
-s：缓存大小，可选项，如果未指定则整个SSD设备被用于缓存，默认的计数单位是扇区（sectors）,但是可以接受k/m/g单位。
-b：指定块大小，可选项，默认为4KB，必须为2的指数。默认单位为扇区。也可以用K作为单位，一般选4KB。
-f：强制创建，不进行检查
-m：设备元数据块大小，只有writeback需要存储metadata块，默认4K

查看帮助

 

1 2 3 4

[root@localhost ~]# flashcache_create Usage: flashcache_create [-v] [-p back|thru|around] [-b block size] [-m md block size] [-s cache size] [-a associativity] cachedev ssd_devname disk_devname Usage : flashcache_create Cache Mode back|thru|around is required argument Usage : flashcache_create Default units for -b, -m, -s are sectors, or specify in k/M/G. Default associativity is 512

其他帮助参考flashcache源码目录下的man目录

加载缓存设备

 

1	flashcache_load /dev/sdc  cachedev (系统重启时使用来加载已经创建过的缓存设备cachedev)

加载已存在的flashcache操作仅用于writeback模式，writethrough和writearound模式重启机器后需要重新使用flashcache_create创建

使用Flashcache

创建好的flashcache设备是块设备，可格式文件系统后挂在使用,也可以继续对其分区等

mount /dev/mapper/cachedev /data

销毁Flashcache

flashcache_destroy /dev/sdc

这种方式删除writeback模式的flashcache时会将SSD上的所有数据删除包括脏数据

建议使用dmsetup命令（device-mapper软件包）删除，会自动将脏数据写入磁盘

dmsetup remove cachedev

Flashcache参数优化

 

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22

[root@localhost ]#sysctl dev.flashcache dev.flashcache.sdc+sdb2.io_latency_hist = 0 dev.flashcache.sdc+sdb2.do_sync = 0 dev.flashcache.sdc+sdb2.stop_sync = 0 dev.flashcache.sdc+sdb2.dirty_thresh_pct = 20 dev.flashcache.sdc+sdb2.max_clean_ios_total = 4 dev.flashcache.sdc+sdb2.max_clean_ios_set = 2 dev.flashcache.sdc+sdb2.do_pid_expiry = 0 dev.flashcache.sdc+sdb2.max_pids = 100 dev.flashcache.sdc+sdb2.pid_expiry_secs = 60 dev.flashcache.sdc+sdb2.reclaim_policy = 0 dev.flashcache.sdc+sdb2.zero_stats = 0 dev.flashcache.sdc+sdb2.fast_remove = 0 dev.flashcache.sdc+sdb2.cache_all = 1 dev.flashcache.sdc+sdb2.fallow_clean_speed = 2 dev.flashcache.sdc+sdb2.fallow_delay = 900 dev.flashcache.sdc+sdb2.skip_seq_thresh_kb = 0 dev.flashcache.sdc+sdb2.clean_on_read_miss = 0 dev.flashcache.sdc+sdb2.clean_on_write_miss = 0 dev.flashcache.sdc+sdb2.lru_promote_thresh = 2 dev.flashcache.sdc+sdb2.lru_hot_pct = 75 dev.flashcache.sdc+sdb2.new_style_write_merge = 0

参数介绍参考：https://github.com/facebook/flashcache/blob/master/doc/flashcache-sa-guide.txt

针对MySQL作此优化

 

1 2 3 4 5 6

dev.flashcache.sdc+sdb2.cache_all = 1   默认值1表示缓存所有，0都不缓存，另外通过进程黑白名单控制 dev.flashcache.sdc+sdb2.reclaim_policy = 1  缓存回收策略，0：FIFO，1：LRU，可动态调整 dev.flashcache.sdbc+sdb2.fast_remove = 1  0表示不同步脏块到磁盘，1表示同步脏块到磁盘 dev.flashcache.sdc+sdb2.dirty_thresh_pct = 90  每组脏块占有的百分比，过低会减少块覆盖，增加磁盘写操作和读缓存 dev.flashcache.sdc+sdb2.new_style_write_merge = 1 打开写入合并，提升写磁盘的性能(旧版本dev.flashcache.sdc+sdb2.write_merge) dev.flashcache.sdb1+sda6.skip_seq_thresh_kb = 256  表示不缓存超过256kb的顺序IO(由于SSD的随机读写比SAS好，但顺序读写相差不大，故作此优化)

Flashcache开机启动

flashcache模块自动加载–flashcache设备自动加载flashcache_load /dev/sdc  cachedev

A.模块自动加载请参考安装部分

B.开机自动加载已创建的缓存设备及挂载

 

1 2 3 4 5 6 7 8 9 10

cd /usr/src/flashcache-3.1.2/utils cp flashcache /etc/init.d/ chmod +x /etc/init.d/flashcache  修改/etc/init.d/flashcache SSD_DISK= /dev/sdc BACKEND_DISK= /dev/sdb2 CACHEDEV_NAME= cachedev MOUNTPOINT= /data FLASHCACHE_NAME=sdc+sdb2 chkconfig flashcache on

Flashcache状态监控

 

1 2 3 4 5 6 7 8 9 10

dmsetup status cachedev dmsetup table  cachedev   错误日志报告  /proc/flashcache/sdc+sdb2/flashcache_errors   状态报告 /proc/flashcache/sdc+sdb2/flashcache_stats   亦可使用flashstat命令实时查看

到此flashcache的基本使用就是这样，看了网上很多资料都是各种抄袭，不凡错误的，最后还是读了官方的帮助，总结出自己的以便以后使用；

后续要做的就是增加了SSD缓存后，要观察SSD的使用情况及缓存命中率等在逐渐调试优化，下一篇增加MySQL数据库从系统/MySQL方面的一些优化总结和大家分享，请继续关注

推荐IO测试工具

fio、iozone 更多参考https://github.com/geekwolf/sa-scripts/blob/master/devops.md

注意事项：

flashcache_create创建了缓存设备之后挂载即可使用，如创建之后使用flashcache_load /dev/sdc  cachedev会提示Invalid Flashcache superblock的错误