java高级精讲之高并发抢红包~揭开Redis分布式集群与Lua神秘面纱

redis数据库

Redis企业集群高级应用精品教程【图灵学院】

Redis权威指南

利用redis + lua解决抢红包高并发的问题

抢红包的需求分析

抢红包的场景有点像秒杀,但是要比秒杀简单点。
因为秒杀通常要和库存相关。而抢红包则可以允许有些红包没有被抢到,因为发红包的人不会有损失,没抢完的钱再退回给发红包的人即可。
另外像小米这样的抢购也要比淘宝的要简单,也是因为像小米这样是一个公司的,如果有少量没有抢到,则下次再抢,人工修复下数据是很简单的事。而像淘宝这么多商品,要是每一个都存在着修复数据的风险,那如果出故障了则很麻烦。

淘宝的专家丁奇有个文章有写到淘宝是如何应对秒杀的:《秒杀场景下MySQL的低效–原因和改进》

http://blog.nosqlfan.com/html/4209.html

基于redis的抢红包方案

下面介绍一种基于redis的抢红包方案。

把原始的红包称为大红包,拆分后的红包称为小红包。

1.小红包预先生成,插到数据库里,红包对应的用户ID是null。生成算法见另一篇blog:http://blog.csdn.net/hengyunabc/article/details/19177877

2.每个大红包对应两个redis队列,一个是未消费红包队列,另一个是已消费红包队列。开始时,把未抢的小红包全放到未消费红包队列里。

未消费红包队列里是json字符串,如{userId:'789', money:'300'}。

3.在redis中用一个map来过滤已抢到红包的用户。

4.抢红包时,先判断用户是否抢过红包,如果没有,则从未消费红包队列中取出一个小红包,再push到另一个已消费队列中,最后把用户ID放入去重的map中。

5.用一个单线程批量把已消费队列里的红包取出来,再批量update红包的用户ID到数据库里。

上面的流程是很清楚的,但是在第4步时,如果是用户快速点了两次,或者开了两个浏览器来抢红包,会不会有可能用户抢到了两个红包?

为了解决这个问题,采用了lua脚本方式,让第4步整个过程是原子性地执行。

下面是在redis上执行的Lua脚本:

  1. -- 函数:尝试获得红包,如果成功,则返回json字符串,如果不成功,则返回空
  2. -- 参数:红包队列名, 已消费的队列名,去重的Map名,用户ID
  3. -- 返回值:nil 或者 json字符串,包含用户ID:userId,红包ID:id,红包金额:money
  4. -- 如果用户已抢过红包,则返回nil
  5. if redis.call('hexists', KEYS[3], KEYS[4]) ~= 0 then
  6. return nil
  7. else
  8. -- 先取出一个小红包
  9. local hongBao = redis.call('rpop', KEYS[1]);
  10. if hongBao then
  11. local x = cjson.decode(hongBao);
  12. -- 加入用户ID信息
  13. x['userId'] = KEYS[4];
  14. local re = cjson.encode(x);
  15. -- 把用户ID放到去重的set里
  16. redis.call('hset', KEYS[3], KEYS[4], KEYS[4]);
  17. -- 把红包放到已消费队列里
  18. redis.call('lpush', KEYS[2], re);
  19. return re;
  20. end
  21. end
  22. return nil

下面是测试代码:

  1. public class TestEval {
  2. static String host = "localhost";
  3. static int honBaoCount = 1_0_0000;
  4. static int threadCount = 20;
  5. static String hongBaoList = "hongBaoList";
  6. static String hongBaoConsumedList = "hongBaoConsumedList";
  7. static String hongBaoConsumedMap = "hongBaoConsumedMap";
  8. static Random random = new Random();
  9. //  -- 函数:尝试获得红包,如果成功,则返回json字符串,如果不成功,则返回空
  10. //  -- 参数:红包队列名, 已消费的队列名,去重的Map名,用户ID
  11. //  -- 返回值:nil 或者 json字符串,包含用户ID:userId,红包ID:id,红包金额:money
  12. static String tryGetHongBaoScript =
  13. //          "local bConsumed = redis.call('hexists', KEYS[3], KEYS[4]);\n"
  14. //          + "print('bConsumed:' ,bConsumed);\n"
  15. "if redis.call('hexists', KEYS[3], KEYS[4]) ~= 0 then\n"
  16. + "return nil\n"
  17. + "else\n"
  18. + "local hongBao = redis.call('rpop', KEYS[1]);\n"
  19. //          + "print('hongBao:', hongBao);\n"
  20. + "if hongBao then\n"
  21. + "local x = cjson.decode(hongBao);\n"
  22. + "x['userId'] = KEYS[4];\n"
  23. + "local re = cjson.encode(x);\n"
  24. + "redis.call('hset', KEYS[3], KEYS[4], KEYS[4]);\n"
  25. + "redis.call('lpush', KEYS[2], re);\n"
  26. + "return re;\n"
  27. + "end\n"
  28. + "end\n"
  29. + "return nil";
  30. static StopWatch watch = new StopWatch();
  31. public static void main(String[] args) throws InterruptedException {
  32. //      testEval();
  33. generateTestData();
  34. testTryGetHongBao();
  35. }
  36. static public void generateTestData() throws InterruptedException {
  37. Jedis jedis = new Jedis(host);
  38. jedis.flushAll();
  39. final CountDownLatch latch = new CountDownLatch(threadCount);
  40. for(int i = 0; i < threadCount; ++i) {
  41. final int temp = i;
  42. Thread thread = new Thread() {
  43. public void run() {
  44. Jedis jedis = new Jedis(host);
  45. int per = honBaoCount/threadCount;
  46. JSONObject object = new JSONObject();
  47. for(int j = temp * per; j < (temp+1) * per; j++) {
  48. object.put("id", j);
  49. object.put("money", j);
  50. jedis.lpush(hongBaoList, object.toJSONString());
  51. }
  52. latch.countDown();
  53. }
  54. };
  55. thread.start();
  56. }
  57. latch.await();
  58. }
  59. static public void testTryGetHongBao() throws InterruptedException {
  60. final CountDownLatch latch = new CountDownLatch(threadCount);
  61. System.err.println("start:" + System.currentTimeMillis()/1000);
  62. watch.start();
  63. for(int i = 0; i < threadCount; ++i) {
  64. final int temp = i;
  65. Thread thread = new Thread() {
  66. public void run() {
  67. Jedis jedis = new Jedis(host);
  68. String sha = jedis.scriptLoad(tryGetHongBaoScript);
  69. int j = honBaoCount/threadCount * temp;
  70. while(true) {
  71. Object object = jedis.eval(tryGetHongBaoScript, 4, hongBaoList, hongBaoConsumedList, hongBaoConsumedMap, "" + j);
  72. j++;
  73. if (object != null) {
  74. //                          System.out.println("get hongBao:" + object);
  75. }else {
  76. //已经取完了
  77. if(jedis.llen(hongBaoList) == 0)
  78. break;
  79. }
  80. }
  81. latch.countDown();
  82. }
  83. };
  84. thread.start();
  85. }
  86. latch.await();
  87. watch.stop();
  88. System.err.println("time:" + watch.getTotalTimeSeconds());
  89. System.err.println("speed:" + honBaoCount/watch.getTotalTimeSeconds());
  90. System.err.println("end:" + System.currentTimeMillis()/1000);
  91. }
  92. }

测试结果20个线程,每秒可以抢2.5万个,足以应付绝大部分的抢红包场景。

如果是真的应付不了,拆分到几个redis集群里,或者改为批量抢红包,也足够应付。

总结:

redis的抢红包方案,虽然在极端情况下(即redis挂掉)会丢失一秒的数据,但是却是一个扩展性很强,足以应付高并发的抢红包方案。

java高级精讲之高并发抢红包~揭开Redis分布式集群与Lua神秘面纱的更多相关文章

  1. 2017最新技术java高级架构、千万高并发、分布式集群、架构师入门到精通视频教程

    * { font-family: "Microsoft YaHei" !important } h1 { color: #FF0 } 15套java架构师.集群.高可用.高可扩展. ...

  2. RocketMQ核心技术精讲与高并发抗压实战

    1:特点 比较吃内存 内存至少1g 默认8g 1:支持集群模型,强调集群无单点,负载均衡以及水平扩展能力2:亿级别的消息堆积能力3:采用零拷贝原理Consumer 消费消息过程,使用了零拷贝 顺序写盘 ...

  3. Ubuntu-18.04 下使用Nginx搭建高可用,高并发的asp.net core集群

    一.实现前的准备 以下是实现简单负载均衡的思路,图中的服务器均为虚拟机 三台Linux服务器,一台用作Nginx负载均衡(192.168.254.139),另外两台用作Asp.Net Core应用程序 ...

  4. Java Web(1)高并发业务

    互联网无时无刻不面对着高并发问题,例如商品秒杀.微信群抢红包.大麦网抢演唱会门票等. 当一个Web系统,在一秒内收到数以万计甚至更多的请求时,系统的优化和稳定是至关重要的. 互联网的开发包括Java后 ...

  5. JAVA NIO non-blocking模式实现高并发服务器(转)

    原文链接:JAVA NIO non-blocking模式实现高并发服务器 Java自1.4以后,加入了新IO特性,NIO. 号称new IO. NIO带来了non-blocking特性. 这篇文章主要 ...

  6. JAVA NIO non-blocking模式实现高并发服务器

    JAVA NIO non-blocking模式实现高并发服务器 分类: JAVA NIO2014-04-14 11:12 1912人阅读 评论(0) 收藏 举报 目录(?)[+] Java自1.4以后 ...

  7. 【设计模式】Java设计模式精讲之原型模式

    简单记录 - 慕课网 Java设计模式精讲 Debug方式+内存分析 & 设计模式之禅-秦小波 文章目录 1.原型模式的定义 原型-定义 原型-类型 2.原型模式的实现 原型模式的通用类图 原 ...

  8. Java生鲜电商平台-高并发核心技术订单与库存实战

    Java生鲜电商平台-高并发核心技术订单与库存实战 一. 问题 一件商品只有100个库存,现在有1000或者更多的用户来购买,每个用户计划同时购买1个到几个不等商品. 如何保证库存在高并发的场景下是安 ...

  9. Java生鲜电商平台-高并发的设计与架构

    Java生鲜电商平台-高并发的设计与架构 说明:源码下载Java开源生鲜电商平台以及高并发的设计与架构文档 对于高并发的场景来说,比如电商类,o2o,门户,等等互联网类的项目,缓存技术是Java项目中 ...

随机推荐

  1. 【SqlServer】解析SqlServer中的事务

    目录结构: contents structure [+] 事务是什么 控制事务 数据并发访问产生的影响 事务的隔离级别 锁 NOLOCK.HOLDLOCK.UPDLOCK 死锁分析 在这篇Blog中, ...

  2. C#调用存储过程详解(带返回值、参数输入输出等)

    CREATE PROCEDURE [dbo].[GetNameById] @studentid varchar(8), @studentname nvarchar(50) OUTPUT AS BEGI ...

  3. SNF开发平台WinForm-平板拍照及扫描二维码功能

    在我们做项目的时候,经常会有移动平板处理检验,审核等,方便移动办公.这时就需要在现场拍照上传问题,把当场问题进行上传,也有已经拍完照的图片或加工过的图片进行上传.还有在车间现场一体机,工控机 这种产物 ...

  4. Apache Spark 2.3.0 重要特性介绍

    文章标题 Introducing Apache Spark 2.3 Apache Spark 2.3 介绍 Now Available on Databricks Runtime 4.0 现在可以在D ...

  5. Android 网络知识必知必会

    目录: 网络分层 TCP 和 UDP 区别 TCP 三次握手以及为什么需要三次握手 UDP 四次挥手以及为什么需要四次挥手 socket 开发相关 Http 是什么 Https 是什么以及和 HTTP ...

  6. 一篇文全面了解DevOps:从概念、关键问题、兴起到实现需求

    一篇文全面了解DevOps:从概念.关键问题.兴起到实现需求 转自:一篇文全面了解DevOps:从概念.关键问题.兴起到实现需求 2018-06-06 目前在国外,互联网巨头如Google.Faceb ...

  7. goldengate–使用filter+@GETENV在线重新初始化指定的table

    goldengate–使用filter+@GETENV在线重新初始化指定的table 转载:http://www.easyora.net/blog/using_filter_getenv_functi ...

  8. 【Ubuntu】PHP环境安装-phpstudy for linux版

    安装: wget -c http://lamp.phpstudy.net/phpstudy.bin chmod +x phpstudy.bin    #权限设置sudo ./phpstudy.bin ...

  9. Spring-boot初始化创建(一)

    Spring Boot 是什么 Spring Boot是由Pivotal团队提供的全新框架,其设计目的是用来简化新Spring应用的初始搭建以及开发过程.该框架使用了特定的方式来进行配置,从而使开发人 ...

  10. ABBYY FineReader Pro for Mac有哪些特性(上)

    使用ABBYY FineReader Pro for Mac轻松转换纸质文档.PDF文件和数字文本照片为可编辑和可搜索的文件,再也不需要手动重新输入或格式化了,相反,可以编辑.搜索.共享.归档和复制文 ...