redis对于持久化有快照及aof日志文件两种形式。

快照db文件,长处是二进制,大小比aof日志文件小。但会丢失最后一次成功备份时间到down机时间的数据。

aof相比而言文件大小就大了点,但相对快照来讲,不大easy丢失文件。

眼下redis检查数据文件是否有错对于快照及aof都可以支持,但修复则仅仅对aof文件有效。

快照文件每次备份都是全量备份,原理是先fork出一个子进程,父子进程共享数据域。接着子进程開始将共享数据域中的数据写入到一个暂时文件,写完之后原子性的替换掉原先的备份db文件。假设在备份过程中,有新的写请求进来,这时创建一个当前写请求相应数据的副本页面,新的写请求更新在副本页上。这就是copy-on-write。这样的方式当文件特别大时,不至于把内存撑爆。

快照文件能够用bgsave及save来进行触发,当然也能够配置每多少秒有多少写请求就触发备份,如 配置 save 100 1000 表示在100秒中有1000次写就触发备份。

aof文件,是追加式的添�到aof未尾。每次redis接收到写请求都会先写入到内存中的buffer中,然后刷新到磁盘文件里。什么时刷新到磁盘文件里能够用appendfsync来进行配置。

appendfsync的值能够是always,second,no。always表示写请求进来时,立即把数据写到磁盘,这样的方式当大量写请求时会造成磁盘等待。second表示每秒中操作系统将buffer中的数据写到磁盘。no,表明全然由操作系统控制写入到磁盘的时间(这比較危急,不知道会失多少数据)。

实际项目中用aof文件,定期做整理,aofrewrite,能够配置当aof文件添加�多少倍或者达到最小大小时进行整理。

前面是持久化内容,考虑假设读请求非常大,单台redis无法提供高性能服务时。这时能够使用主/备服务,主redis负责接收写请求与读请求,并将写请求同步到从redis。从redis仅仅可读。

主/从redis同步数据,原理比較简单,步聚例如以下:

1.从redis发送一个sync命令给主master (从redis能够对外接受读请求,也能够不接受)

2.主master运行一个bgsave,生成最新的备份文件,这个过程中假设有新的写请求则将它写入到backlog。

3.当主master生成最新备份db文件后,主master将它发送到从redisserver

4. 从redisserver接收完备份文件后,替换掉原从redis内存中的数据,然后ack给主master

5.主master最后将接受sync请求而且開始做bgsave起到从redis发回ack后这段时间的全部数据backlog发回到从redis

6.从redis解析backlog,并放入到内存其中

实践过程中发现,当主/从进行同步时,主redis必然会生成一个最新的db后缀的备份文件。而aof文件则是仅仅有当主master配置了appendonly为yes时这会

产生。假如主redis下同一时候存在aof和db备份文件,这时依据从redis是否支持aof来决定是否同步aof文件。

另一点须要特别注意的是,每次从slave重新启动,那同步的数据文件是主master下整个文件。

关于这点,能够自己实现解析aof文件来实现增量同步。

故障恢复:

主redis为 10.45.9.114,port6001

从redis为 10.45.9.111,port为6002





当主master挂了时,选择slave做为主master,命令例如以下:

在slave上运行:

bgsave,并运行 slaveof no one

这里的slaveof no one不会序列化到配置文件,重新启动后还是以配置文件里的设置为准



之后更新client,使其指向新的master,即10.45.9.111这台redis



master 10.45.9.114恢复后,将其做为新master的slave



这时查看数据文件是否损坏,这里用的是aof备份,因此使用命令:

./redis-check-aof /home/jbossas/Data/redis/redis-data/appendonly.aof

结果例如以下:

AOF analyzed: size=245, ok_up_to=245, diff=0

AOF is valid



假设aof文件损坏的坏,则须要使用下面命令来恢复:

./redis-check-aof --fix /home/jbossas/Data/redis/redis-data/appendonly.aof



之后设置10.45.9.114这台机子的redis配置文件 slaveof为 slaveof 10.45.9.111 6002

 

之后重新启动就可以

redis优化



降低内存,redis在对下面集合:

 ZSETS,LISTS,HASHS

 当它们的元素数量及value大小小于某个限值时,会用zipList(数组)来降低内存存储

 设置參数:

 list-max-ziplist-entries 512

 list-max-ziplist-value 64



 对于SETS也当元素个数小于某个限值时,也会存储成一个数组,intSet

 设置參数:

 set-max-intset-entries 512

对于原有的集合,redis存储数据时会比較占空间。

如list集合,redis採用一个链表来存

每一个结点存储一个数据,而这个结点须要额外的三个指针。这三个指针分别指向前结点,后结点以及当前数据域

redis持久化与可用性的更多相关文章

  1. Redis持久化的两种方式(RDB和AOF)

    redis提供了两种持久化的方式,分别是RDB(Redis DataBase)和AOF(Append Only File). RDB,简而言之,就是在不同的时间点,将redis存储的数据生成快照并存储 ...

  2. Redis持久化概念

    redis持久化概念 Author:SimpleWu GitHub-redis 什么是持久化? 概念:把内存的数据保存在磁盘的过程. Redis的持久化? redis是内存数据库,它把数据存储在内存中 ...

  3. Redis持久化存储与复制功能简述

    一.分布式系统基础理论 分布式系统的两个基础理论: 1.CAP理论 如图: Consistency(强一致性):数据一致更新,所有数据变动都是同步的.Availability(可用性):好的响应性能. ...

  4. redis学习(三)redis持久化

    redis持久化 1.redis持久化介绍 我们知道redis性能之所以强悍,是因为redis在运行时将数据都存放在了访问效率远高于硬盘的内存之中.可是这带来了新的问题:在redis或者外部系统重启时 ...

  5. Redis 持久化深入--机制、可靠性及比较

    本文是对 antirez 博客中 Redis persistence demystified 的翻译和总结.主要从Redis的持久化机制,提供何种程度的可靠性以及与其他数据库的比较三个方面进行讨论. ...

  6. 细说Redis持久化机制

    概述 Redis不仅能够作为缓存来使用,也能够作为内存数据库. Redis作为内存数据库使用时.必需要解决一个问题:数据的持久性.有些将Redis作为缓存使用的场景也需要将缓存的数据持久化到存储介质上 ...

  7. Redis持久化----RDB和AOF 的区别

    关于Redis说点什么,目前都是使用Redis作为数据缓存,缓存的目标主要是那些需要经常访问的数据,或计算复杂而耗时的数据.缓存的效果就是减少了数据库读的次数,减少了复杂数据的计算次数,从而提高了服务 ...

  8. redis持久化RDB和AOF

    Redis 持久化: 提供了多种不同级别的持久化方式:一种是RDB,另一种是AOF. RDB 持久化可以在指定的时间间隔内生成数据集的时间点快照(point-in-time snapshot). AO ...

  9. Redis持久化

    Redis持久化 快照(默认) 将内存中的数据以快照的方式写入到二进制文件中,默认文件名是dump.rdb. 配置自动化做快照持久化(如redis在n秒内如果超过m个key被修改就自动做快照) sav ...

随机推荐

  1. Oracle EBS-SQL (BOM-8):检查物料属性(无采购员).sql

    select       msi.segment1                                  物料编码,       msi.DESCRIPTION               ...

  2. 中国25位最具影响力的IC人物

    当今许多企业的领导者几乎已经成为其企业的代名词,而在芯片业,我们听说的更多的是“龙芯”.“国芯”,他们的领导者的声音却鲜有传出.芯片业透出的强烈的民族色彩,也使这些隐身的企业家们的注意力更聚集在研发上 ...

  3. 三篇编译libcurl,附下载 good

    http://download.csdn.net/detail/flyliying/2982867 http://download.csdn.net/detail/wojiushiwo987/9113 ...

  4. Qt for Android遇到的几个错误解决[Win7 + Qt5.6 +jdk 8u91]

    [1]SDK Manager无法更新Android SDK安装后需要运行SDK Manager下载安装包,默认从google网站下载,但被GWF和谐了,感谢一位网友提供的镜像站点.具体步骤是:运行SD ...

  5. 给ecshop后台增加管理功能页面

    给ecshop后台增加管理功能页面 比如我们增加一个统计报表叫做 物流费用统计报表 放在后台“报表统计”栏目中 具体操作步骤: 第一步,我们要添加一个菜单到后台,然后设置语言项,最后设置权限,这样,后 ...

  6. why constrained regression and Regularized regression equivalent

    problem 1: $\min_{\beta} ~f_\alpha(\beta):=\frac{1}{2}\Vert y-X\beta\Vert^2 +\alpha\Vert \beta\Vert$ ...

  7. MFC_Office

    添加新项目,MFC应用程序 多个顶级文档,项目类型:Office,其他默认,点击下一步 复合文档支持:容器,右边都勾选,点击下一步 文件拓展名:c,全选,其他默认,点击下一步 数据库支持:无,其他默认 ...

  8. 服务端API的OAuth认证实现

    http://stackoverflow.com/questions/12499602/body-joints-angle-using-kinect?rq=1 新浪微博跟update相关的api已经挂 ...

  9. java中表示二进制、八进制、十进制、十六进制,double、float、整型

    java里不能这样表示二进制,只能是   8,10,16进制  8:         前置   0  10:      不需前置 16:      前置   0x   或者   0X double:2 ...

  10. UVA 10163 Storage Keepers(dp + 背包)

    Problem C.Storage Keepers  Background Randy Company has N (1<=N<=100) storages. Company wants ...