Redis | 第9章 Lua 脚本与排序《Redis设计与实现》
前言
参考资料:《Redis设计与实现 第二版》;
第三部分为独立功能的实现,主要由以下模块组成:发布订阅、事务、Lua 脚本、排序、二进制位数组、慢查询日志、监视器;
本篇将介绍 Redis 的Lua 脚本与排序。Redis 从 2.6 版本开始可以使用一些命令操作 Lua 脚本,引入相关支持;Redis 的 SORT 命令可以对列表键、集合键或者有序集合键的值进行排序,SORT 命令的一些可选性能让我们得到想要的排序;
与本章相关的 Redis 命令总结在下篇文章,欢迎点击收藏,本篇将不再重复:
《Redis常用命令及示例总结(API)》:https://www.cnblogs.com/dlhjw/p/15639773.html
1. Lua 脚本
- Lua 脚本的执行的原子性的;
1.1 Redis 创建并修改 Lua 环境的步骤
- 创建 Lua 环境:调用 Lua 的 C API 函数 lua_open;
- 载入函数库:包括基础库、表格库、字符串库、数学库、调试库、Lua CJSON 库、Struct 库、Lua cmsgpack 库等;
- 创建 redis 全局表格:表格包含对 Redis 进行操作的函数,如
redis.call
和redis.pcall
函数等; - 使用 Redis 自制的随机函数替换 Lua 原有的随机函数:
math.random
和math.randomseed
函数带有副作用,Redis 对其进行了替换,以避免在脚本中引入副作用; - 创建排序辅助函数:有些命令在相同数据集上会产生不同结果,为了消除这些命令带来的不确定性,创建了
redis__compare_helper
排列辅助函数; - 创建 redis.pcall 函数的错误报告辅助函数:创建
__redis__err__handler
错误处理函数,提供更详细的出错信息; - 保护 Lua 全局环境:防止用户在执行脚本时将额外的全局变量添加到 Lua 环境中,但可以修改已存在的全局变量;
- 将 Lua 环境保存到服务器状态的 lua 属性里:然后等待服务器传来 lua 脚本;
1.2 Lua 环境协作组件
Redis 服务器创建两个与 Lua 环境进行协作的组件;
伪客户端:
lua_scripts 字典:
struct redisServer{
//...
//字典,键为某个 Lua 脚本的 SHA1 校验和,值为 SHA1 校验和对应的 Lua 脚本
dict *lua_scripts;
}
- 所有被 EVAL 和 SCRIPT LOAD 命令执行过的脚本会被保存到
lua_scripts
字典里;
- 所有被 EVAL 和 SCRIPT LOAD 命令执行过的脚本会被保存到
1.3 EVAL 命令的实现
- 执行命令:
EVAL "return 'hello world'" 0
,实现步骤如下:
- 定义脚本函数:给函数命令为
f_SHA1的校验和
,函数体为脚本本身return 'hello world'
; - 将脚本保存到 lua_scripts 字典:
- 执行脚本函数:先进行设置钩子(hook)、传入参数等准备工作,再执行函数,将执行结果保存到客户端状态的输出缓冲区,执行垃圾回收等操作;
1.4 EVALSHA 命令的实现
- 每个被 EVAL 命令成功执行过的 Lua 脚本,在 Lua 环境中有一个与该脚本对应的 Lua 函数,函数名为
f_SHA1的校验和
; - 因此即使不知道脚本内容,也可以通过 EVALSHA SHA1校验和 命令调用对应函数;
1.5 脚本管理命令的实现
- SCRIPT FLUSH:
- 用于清除服务器中所有和 Lua 脚本有关的信息;
- 会释放并重建
lua_scripts
字典,关闭现有 Lua 环境并重建一个新的 Lua 环境;
- SCRIPT EXISTS:
- 根通过检查给定校验和 SHA1 是否在的于
lua_scripts
字典的键,判断对应的脚本是否存在服务器中;
- 根通过检查给定校验和 SHA1 是否在的于
- SCRIPT LOAD:
- 所做工作与 EVAL 命令前两步一样:定义脚本函数,将脚本函数保存进
lua_scripts
字典;
- 所做工作与 EVAL 命令前两步一样:定义脚本函数,将脚本函数保存进
- SCRIPT KILL:
- 用于处理钩子(hook)超时的情况;
- 如果脚本未执行写入操作,客户端可以使用该命令停止执行脚本;
- 如果脚本已经进行过写入操作,客户端只能使用 SHUTDOWN nosave 命令来停止服务器,防止不合法的数据被写入到数据库中;
1.6 脚本复制
- 当服务器运行在复制模式下时,具有写性质的脚本命令会被复制到从服务器里,如:EVAL、EVALSHA、SCRIPT FLUSH、SCRIPTLOAD;
1.6.1 EVAL、SCRIPT FLUSH、SCRIPTLOAD 命令的复制
- 当主服务器执行完 EVAL、SCRIPT FLUSH、SCRIPTLOAD 命令时,会直接将被执行的命令传播给所有从服务器;
1.6.2 EVALSHA 命令的复制
- EVALSHA 命令接受一个校验和 SHA1 作为参数传入;
- 每个服服务器间的脚本校验和 SHA1 可能不同,导致在不同的服务器间执行 EVALSHA 命令情况可能也不同;
- Redis 复制 EVALSHA 命令的方法:
判断传播 EVALSHA 命令是否安全的方法:主服务器使用
repl_scriptcache_dict
字典记录哪些脚本传播给了所有从服务器。跟lua_scripts
字典对比即可得知哪些校验和还未传播;struct redisServer{
//...
//字典,键是校验和 SHA1,值是 NULL
dict *repl_scriptcache_dict;
};
清空 repl_scriptcache_dict 字典:每当主服务器添加一个新的从服务器时,主服务器会清空自己的
repl_scriptcache_dict
字典;EVALSHA 命令转换成 EVAL 命令的方法:根据 sha1 校验和在
lua_scripts
字典中查找对应 Lua脚本 script;然后改写命令,用 script 替换 sha1;其他参数不变;- EVAL命令:
EVAL script numkeys key [key ...] arg [arg ...]
- EVALSHA命令:
EVALSHA sha1 numkeys key [key ...] arg [arg ...]
- EVAL命令:
传播 EVALSHA 命令的方法:当主服务器成功执行完一个 EVALSHA 命令后,会根据该命令指定的 SHA1 校验和是否存在于
repl_scriptcache_dict
字典里来决定是否向从服务器传播 EVALSHA 命令还是 EVAL 命令;
2. 排序
2.1 SORT <key> 命令的实现
- 服务器执行 SORT numbers 命令的详细步骤:
- 1)创建一个和 numbers 列表长度相同的数组,数组的每个项都是
redis.h/redisSortObject
结构; - 2)遍历数组,将各个数组项的 obj 指针指向 numbers 列表的各个项,构成 obj 指针和列表项的一对一关系;
- 3)遍历数组,将各个 obj 指针所指向的列表项转换成一个 double 类型的浮点数,并将浮点数保存到相应数组项
u.score
属性里;
- 4)根据数组项
u.score
属性的值,对数组进行数字值排序;
- 5)遍历数组,将各个数组项的 obj 指针所指向的列表项作为排序结果返回给客户端;
2.2 SORT 命令的可选项
- ALPHA 选项可以对包含字符串的键进行排列;
- ASC 选项执行升序排序;
- DESC 选项执行降序排序;
- 升序和降序都采用快速排序算法;
- BY 选项可以指定某些字符串键,或者某个哈希键说包含的某些域来作为权重,对一个键排序;
- LIMIT 选项可以让结果只返回其中部分已排序的元素;
- GET 选项可以在键被排序后,根据被排序的元素,以及 GET 选项指定的模式,查找并返回某些键的值;
- STORE选项可以将排序结果保存在指定的键里面;
2.3 多个选项的执行顺序
- 选项的执行顺序:
- 1)排序:会先使用 ALPHA、ASC、DESC、BY 这几个选项,对输入键进行排序,并得到一个排序结果集;
- 2)限制排序结果集的长度:使用 LIMIT 选项,对排序结果集的长度进行限制;
- 3)获取外部键:使用 GET 选项,根据结果集的元素,以及 GET 指定的模式,查找并获取指定键的值,并用这些值构成新的结果集;
- 4)保存排序结果集:使用 STORE 选项,将排序结果集保存到指定的键上;
- 5)向客户端返回排序结果集:遍历排序结果集,并依次向客户端返回排序结果集中的元素;
- 除了 GET 选项之外,改变选项的摆放顺序不会影响 SORT 命令执行这些选项的顺序;
最后
新人制作,如有错误,欢迎指出,感激不尽!
欢迎关注公众号,会分享一些更日常的东西!
如需转载,请标注出处!
Redis | 第9章 Lua 脚本与排序《Redis设计与实现》的更多相关文章
- Redis分布式锁—SETNX+Lua脚本实现篇
前言 平时的工作中,由于生产环境中的项目是需要部署在多台服务器中的,所以经常会面临解决分布式场景下数据一致性的问题,那么就需要引入分布式锁来解决这一问题. 针对分布式锁的实现,目前比较常用的就如下几种 ...
- Redis进阶之使用Lua脚本开发
1.在Redis中使用Lua 在Redis中执行Lua脚本有两种方法:eval和evalsha. (1)eval eval 脚本内容 key个数 key列表 参数列表 下面例子使用了key列表和参数列 ...
- redis集群搭建+lua脚本的使用
详细参考这篇文章(windows) https://blog.csdn.net/qiuyufeng/article/details/70474001 一.使用JAVA代码操作redis集群 publi ...
- redis集群+JedisCluster+lua脚本实现分布式锁(转)
https://blog.csdn.net/qq_20597727/article/details/85235602 在这片文章中,使用Jedis clien进行lua脚本的相关操作,同时也使用一部分 ...
- Redis进阶之使用Lua脚本自定义Redis命令
[本文版权归微信公众号"代码艺术"(ID:onblog)所有,若是转载请务必保留本段原创声明,违者必究.若是文章有不足之处,欢迎关注微信公众号私信与我进行交流!] 1.在Redis ...
- Nginx 内嵌lua脚本,结合Redis使用
0x00 Nginx 内嵌Lua脚本有下面特点: 20k个并发连接 Lua脚本能够在Nignx 11个层次的不同层次发挥作用,扩展Ngnix功能 Lua速度极快(寄存器指令) 0x01 应用场景 在w ...
- Redis(六)Lua脚本的支持
Redis为什么需要Lua脚本的支持 当应用需要Redis完成一些Redis命令不支持的特性时,要么扩展Redis client或者更甚至编写c扩展Redis server.这都大大造成了应用的实现的 ...
- Redis | 第11章 服务器的复制《Redis设计与实现》
目录 前言 1. 旧版复制功能的实现 1.1 同步与命令传播 1.2 旧版复制功能的缺陷 2. 新版复制功能的实现 2.1 部分重同步的实现原理 3. PSYNC 命令的实现 4. 复制的详细步骤 4 ...
- 用Jedis调用Lua脚本来完成redis的数据操作
1.先完成一个简单的set/get操作 package com.example.HnadleTaskQueue; import redis.clients.jedis.Jedis; import ja ...
随机推荐
- 云效Flow如何实现阿里云ECS多环境发布
一.背景 云效Flow基于标签功能实现阿里云ECS多环境发布,在软件开发和部署过程中,我们的软件往往需要在不同的运行环境中运行,例如:开发人员本地开发环境.测试团队的测试环境.还有类生产环境和生产环境 ...
- 【做题记录】[NOIP2016 普及组] 魔法阵
P2119 魔法阵 2016年普及组T4 题意: 给定一系列元素 \(\{X_i\}\) ,求满足以下不等式的每一个元素作为 \(a,b,c,d\) 的出现次数 . \[\begin{cases}X_ ...
- Python:Ubuntu上出现错误 Could not load dynamic library 'libnvinfer.so.6' / 'libnvinfer_plugin.so.6'
运行一个py文件,出现如下的错误,原因是没有找到 libnvinfer.so.6 相关库的文件. 1 2021-01-04 18:41:17.324477: W tensorflow/stream_e ...
- NOIP模拟86(多校19)
T1 特殊字符串 解题思路 \(f_{i,j}\) 表示前 \(i\) 个字符中结尾为 \(j\) 的最大贡献. 转移枚举当前位置于之前位置结尾的组合加上贡献即可. 对于边界问题,容易发现选择 1 一 ...
- 20191310李烨龙作业:MySort
作业:MySort 任务详情 1. 用man sort 查看sort的帮助文档 2. sort常用选项有哪些,都有什么功能?提交相关使用的截图 3. 如果让你编写sort,你怎么实现?写出伪代码和相关 ...
- Linux 启动/关闭 oracle 数据库
1.启动 1.1 启动监听 :lsnrctl start 1.2 启动数据库:sqlplus /nolog conn /as sysdba(或者两句一起:sqlplus sys/ as sysd ...
- Swift-技巧(四)设置照片尺寸和格式
摘要 平时实现拍照功能时,都是网上一通搜索,整体复制粘贴,自称无脑实现.但是当要求照片是不同的尺寸和格式( JPEG)时,就费力搞照片.其实在设置拍照时,就可以直接设置照片的尺寸和格式,用直接的方法来 ...
- ShardedJedisPipeline 源码分析
一.什么是pipeline?什么是ShardedJedis? 由于pipeline和ShardedJedis的介绍和源码分析在网上已经有了,本文就不再赘述,直接给出链接: pipeline的介绍: h ...
- vue监听器watch & 计算属性computed
侦听器watch vue中watch是用来监听vue实例中的数据变化 watch监听时有几个属性: handle:其值是一个回调函数,就是监听对象对话的时候需要执行的函数 deep:其值true 或者 ...
- electron获取不到remote
electron获取不到remote 问题 // 渲染进程 let remote = require('electron').remote console.log(remote) // undefin ...