Redis 设计与实现 (三)--持久化
RDB 持久化
一、生成RDB
cmd:SAVE --阻塞进程,执行完,才能有效接收客户端命令。
cmd: BGSAVE --非阻塞,开启子进程保存。
客户端如果发送SAVE和BGSAVE命令直接拒绝。
BGWRITEAOF命令再BGSAVE执行完才能执行。
二、载入RDB
服务器启动时自动执行,检测到RDB文件就会自动加载。
如果开启AOF,优先使用执行AOF。
AOF关闭的情况下,才会执行RDB。
三、自动间隔性保存
save设置:一定条件后执行BGSAVE命令进行保存
默认设置:
save 900 1 //900秒内,进行一次修改,触发保存BGSAVE
save 300 1 //300秒内,10次修改,触发保存BGSAVE
save 60 10000 //60秒内,1w次修改,触发保存BGSAVE
struct saveparam {
time_t seconds; //秒数
int changes;//变化次数
};
还有两个参数:
dirty --上次数据库触发保存命令修改数
lastsave -- 最后一次执行save时间
PORT_LONGLONG dirty; /* Changes to DB from the last save */
time_t lastsave; /* Unix time of last successful save */
还有一个定时器默认100毫秒来检测是否满足save条件的方法:serverCron
int serverCron(struct aeEventLoop *eventLoop, PORT_LONGLONG id, void *clientData)
四、RDB文件结构
| REDIS | db_version | database | EOF | check_sum |
RDB文件开头是REDIS,来判定是否是RDB文件。
db_version 版本号
databse 包含任意多个数据库(键值对)
EOF RDB文件结束标志
check_sum 校验长度
AOF 持久化
一、命令持久化,保存redis 的写命令
二、命令追加
redis 执行完写命令,将命令按照一定协议格式追加到 aof_buf 缓冲区
sds aof_buf; /* AOF buffer, written before entering the event loop */
三、AOF文件写入与同步
resid 服务器进程是一个事件循环
文件事件:接受命令和输出内容
时间事件:负责定时任务
文件事件执行写命令,这样会追加命令到aof_buf 缓冲区,在这写命令结束之前会调用flushAppendOnlyFile 函数判断是否从缓冲区回写到AOF文件。
写入策略有三个:
always: 将aof_buf 缓冲区所有内容写入并同步到AOF文件。
everysec(默认): 将缓冲区内容写入,超过一秒钟,并进行同步。
no: 将缓冲区的所有内容同步,但是不同步。
四、AOF 载入以及数据还原
1、创建一个伪客户端
2、分析aof文件 并解析一条命令
3、伪客户端执行此命令
4、循环执行2和3
五、AOF重写
AOF 存储写命令,体积会膨胀,恢复数据库的时间也会变长。
新建文件AOF ,去除冗余命令,合并命令。达到缩减文件目的。
六、AOF后台重写
处理命令请求会因为这个aof重写造成阻塞。
另起一个子进程,进行aof重写。但是会存在数据不一致的问题,子进程在处理重写一条命令后,同时主进程依然在写当操作对象的命令。造成数据不一致。
解决方案:开辟aof重写缓存区
命令会直接写入aof缓存区和aof重写缓存区,这样可以读取缓存区命令进行处理。类似队列,先写入队列进行待处理。
生成的写命令-->aof缓冲区 -->写入同步到aof文件
生成的写命令-->aof重写缓冲区 --> 写完 -->发送信号给父进程 --> aof重写缓冲区写入新aof文件 -->原子覆盖旧aof文件
父进程处理命令,保存aof,使用子进程,覆盖重写aof,达到性能最佳不阻塞,同时生成的新aof也是比较小。
Redis 设计与实现 (三)--持久化的更多相关文章
- Redis设计与实现 (三): 字典
哈希表 结构定义dict.h/dictht /* * 哈希表 * * 每个字典都使用两个哈希表,从而实现渐进式 rehash . */ typedef struct dictht { // 哈希表数 ...
- redis源码分析(三)--rdb持久化
Redis rdb持久化 Redis支持两种持久化方式:rdb与aof.rdb将一个节点上的内存数据序列化后存储到磁盘中,序列化的数据以尽可能节约空间的方式存储,并非完全的ascii表示.它的优点在于 ...
- 探索Redis设计与实现11:使用快照和AOF将Redis数据持久化到硬盘中
本文转自互联网 本系列文章将整理到我在GitHub上的<Java面试指南>仓库,更多精彩内容请到我的仓库里查看 https://github.com/h2pl/Java-Tutorial ...
- Redis基础篇(三)持久化:AOF日志
Redis是内存数据库,但是一旦服务器宕机,内存中的数据将会全部丢失. 最简单的恢复方式是从后端数据库恢复,但这种方式有两个问题: 频繁访问数据库,会给数据库带来巨大的压力: 从数据库中读取相比从Re ...
- Redis | 第5章 Redis 中的持久化技术《Redis设计与实现》
目录 前言 1. RDB 持久化 1.1 RDB 文件的创建与载入 1.2 自动间隔性保存 1.2.1 设置保存条件 1.2.2 dirty 计数器和 lastsave 属性 1.2.3 检查保存条件 ...
- 分布式缓存技术redis学习系列(三)——redis高级应用(主从、事务与锁、持久化)
上文<详细讲解redis数据结构(内存模型)以及常用命令>介绍了redis的数据类型以及常用命令,本文我们来学习下redis的一些高级特性. 安全性设置 设置客户端操作秘密 redis安装 ...
- Redis设计与实现2.2:数据持久化
数据持久化 这是<Redis设计与实现>系列的文章,系列导航:Redis设计与实现笔记 RDB持久化 RDB 持久化功能所生成的 RDB 文件是一个经过压缩的二进制文件,通过该文件可以还原 ...
- Redis设计与实现(一~五整合版)【搬运】
Redis设计与实现(一~五整合版) by @飘过的小牛 一 前言 项目中用到了redis,但用到的都是最最基本的功能,比如简单的slave机制,数据结构只使用了字符串.但是一直听说redis是一个很 ...
- 《Redis设计与实现》读书笔记
<Redis设计与实现>读书笔记 很喜欢这本书的创作过程,以开源的方式,托管到Git上进行创作: 作者通读了Redis源码,并分享了详细的带注释的源码,让学习Redis的朋友轻松不少: 阅 ...
- 深入学习Redis(2):持久化
前言 在上一篇文章中,介绍了Redis的内存模型,从这篇文章开始,将依次介绍Redis高可用相关的知识——持久化.复制(及读写分离).哨兵.以及集群. 本文将先说明上述几种技术分别解决了Redis高可 ...
随机推荐
- 小米Note 2简单卡刷开发版启用root超级权限的步骤
小米的机器不同手机型号一般MIUI官方论坛都提供两个不同版本,分别为稳定版和开发版,稳定版没有提供Root超级权限管理,开发版中就开启了Root超级权限,较多时候我们需要使用的一些功能强大的软件,都需 ...
- Oracle 正则表达式 分割字符串
inData='12345|张三|男' SELECT REGEXP_SUBSTR (inData, '[^|]+', 1,1) into 用户ID FROM DUAL;SELECT REGEXP_SU ...
- [转] 以 async/await 为例,说明 babel 插件怎么搭
你一定碰到过这些库 babel-polyfill 项目地址:https://github.com/babel/babel/blob/master/packages/babel-polyfill 通过两 ...
- King 差分约束 判负环
给出n个不等式 给出四个参数第一个数i可以代表序列的第几项,然后给出n,这样前面两个数就可以描述为ai+a(i+1)+...a(i+n),即从i到n的连续和,再给出一个符号和一个ki当符号为gt代表‘ ...
- 记录几个爬取动态网页时的问题(下拉框,旧的元素无法获取,获取的源代码和f12看到的不一致,爬取延迟)
更新.....这个动态网页其实直接抓取ajax请求就可以了,很简单,我之前想复杂了,虽然也实现了,但是效率极低,不过没关系,就当作是对Selenium的一次学习吧 1.最近在爬取一个动态网页,其中为了 ...
- [Log函数]C++log函数使用
先引入头文件#include<cmath> 以e为底:log(exp(n)) 以10为底:log10(n) 以m为底:log(n)/log(m)
- java做图片点击文字验证码
https://blog.csdn.net/qq_27721169/article/details/82769093
- Dancing Links 学习笔记
Dancing Links 本周的AI引论作业布置了一道数独 加了奇怪剪枝仍然TLE的Candy?不得不去学了dlx dlxnb! Exact cover 设全集X,X的若干子集的集合为S.精确覆盖是 ...
- ARTS Challenge- Week 1 (2019.03.25~2019.03.31)
1.Algorithm - at least one leetcode problem per week(Medium+) 986. Interval List Intersections https ...
- 如何使用$.each()与$().each()以及他们的区别
1.首先,说下$.each(Arry/Object,function(index,val){ //index表示下标,val表示下标对应的值 }) 下面是使用$.each()的几种类型,其中arr2与 ...