redis作为一个内存数据库,在生产环境中使用会遇到许多问题,特别是像电商系统用来存储热点数据,容易出现缓存穿透,雪崩,击穿等问题.所以实际运用中需要做好前期处理工作. 一.缓存雪崩 1.概念 缓存雪崩,是指在某一个时间段,缓存集中过期失效.其实这个挺好理解的,举个例子,假如我们把首页的热点数据都设置为1小时过期,刚好这个时候有个秒杀活动,大量的用户请求直接打到数据库.数据库直接被打挂,如果没做好高可用策略,跟这个数据库相关的接口会报错.即使重启数据库,也会被新的用户请求打挂.这种大面积奔溃俗称…
今天来聊聊redis的缓存穿透.击穿.雪崩以及解决方案,其中解决方案包括类似于布隆过滤器这种网上一搜一大片但是实际生产部署有一定复杂度的,也有基于spring注解通过一行代码就能解决的,其中各有优劣,咱们根据实际需要选型: 接下来会从穿透.击穿.雪崩的基本概念.各种问题对应的解决方案以及方案的具体实施来一一介绍 缓存穿透 概念 缓存穿透指某一特定时间批量请求打进来并访问了缓存和数据库都没有的key,此时会直接穿透缓存直达数据库,从而造成数据库瞬时压力倍增导致响应速度下降甚至崩溃的风险: 解决方案…
前言 如何有效的理解并且区分 Reids 穿透.击穿和雪崩之间的区别,一直以来都挺困扰我的.特别是穿透和击穿,过一段时间就稀里糊涂的分不清了. 为了有效的帮助笔者自己,以及拥有同样烦恼的朋友们区分这三种场景.笔者总结了一些关键词,希望大家可以和我一样通过联想的方式来区分并理解这三种场景的区别! 缓存穿透: 关键词:穿过 Redis 和 数据库 当 Redis 和数据库中都没有我们想要的数据时,就需要考虑缓存穿透的问题了 下面这段逻辑大家用的会比较多:先去 Redis 中查找某资源,Redis 中…
1 背景 像我们去面试一些大公司的时候,就会遇到一些关于缓存的问题.可能很多同学都是接触过,多多少少了解一些,但是如果没有好好记录这些内容,不熟练精通的话,在真正面试的时候,就很难答出来了. 在我们的平常的项目中多多少少都会使用到缓存,因为一些数据我们没有必要每次查询的时候都去查询到数据库.    特别是高 QPS 的系统,每次都去查询数据库,对于你的数据库来说将是灾难. 今天我们不牵涉多级缓存的知识,就把系统使用到的缓存方案,不管是一级还是多级的都统称为缓存,主要是为了讲述使用缓存的时候可能会…
缓存穿透: 大量查询 redis 中不存在的key(用随救数进行查询),导致每次都会去查询数据库,造成数据库压力过大(甚至宕机). 解决办法: 1.对我们的 api 接口 进行限流处理.用户授权.黑名单和白名单进行拦截. 2.将不存在的 key 存到 redis 中并设置有效期,有效减轻短时间内重复 key 的查询.不推荐使用(一般随机数都是不相等的). 3.布隆过滤器   介绍:它实际上是一个很长的二进制向量和一系列随机映射函数.布隆过滤器可以用于检索一个元素是否在一个集合中.它的优点是空间效…
Redis作为高性能非关系型(NoSQL)的键值对数据库,受到了广大用户的喜爱和使用,大家在项目中都用到了Redis来做数据缓存,但有些问题我们在使用中不得不考虑,其中典型的问题就是:缓存穿透.缓存雪崩.缓存击穿和与关系型数据库的一致性. 一.缓存穿透 1.概念 缓存穿透是指查询一个缓存和数据库不存在的数据.正常的使用缓存流程大致是,数据查询先进行缓存查询,如果key不存在或者key已经过期,再对数据库进行查询,并把查询到的对象,放进缓存.如果数据库查询对象为空,则不放进缓存. 大致流程如下图所…
参考源 https://www.bilibili.com/video/BV1S54y1R7SB?spm_id_from=333.999.0.0 版本 本文章基于 Redis 6.2.6 使用缓存的问题 Redis 缓存的使用,极大的提升了应用程序的性能和效率,特别是数据查询方面. 但同时,它也带来了一些问题.其中,最要害的问题,就是数据的一致性问题,从严格意义上讲,这个问题无解. 如果对数据的一致性要求很高,那么就不能使用缓存. 另外的一些典型问题就是,缓存穿透.缓存雪崩和缓存击穿.目前,业界也…
缓存穿透的解决方案(空标记) 缓存穿透是指,在数据存储系统中不存在的记录,不会被存储到缓存中.这种记录每次的查询流量都会穿透到数据存储层.在高流量的场景下,不断查询空结果会大量消耗数据查询服务的资源,甚至在恶意流量攻击下可能拖垮数据库系统. 以机票订单为例,有些订单购买了保险,也有的订单没有购买保险的记录.没有保险产品的订单每次查询时都会从数据库中查到空的结果,命中不了缓存,消耗了大量的Batch Request. 针对这种情况,我们采取了设置空标记的措施,针对查询正常返回但是记录为空的数据,将…
一.缓存雪崩 1.1 缓存雪崩产生的原因 1.2 解决方案 1.3 锁的方式 1.4 消息中间件 1.5 一级和二级缓存 1.6 均摊分配redis key 失效时间 二.缓存穿透 一.缓存雪崩 1.1 缓存雪崩产生的原因 缓存雪崩通俗简单的理解就是:由于原有缓存失效(或者数据未加载到缓存中),新缓存未到期间(缓存正常从Redis中获取,如下图)所有原本应该访问缓存的请求都去查询数据库了,而对数据库CPU和内存造成巨大压力,严重的会造成数据库宕机,造成系统的崩溃. 155609  缓存失效的时…
缓存穿透:就是访问redis中一个不存在的key的时候,会直接穿过缓存,去数据库中进行查询. 如果是黑客,进行恶意攻击的时候,每次都请求超过2000个/秒的时候,这个时候mysql基本上就挂了. 解决办法是:每次从数据库中查询到一个不存在的key的时候,就写一个空值到缓存库中,有恶意攻击的时候,直接从缓存中取到这个空值. 缓存雪崩:就是每秒有5000个请求过来时候,redis缓存库崩了,然后这些请求瞬间落在了mysql数据库上,直接导致数据库死机. 解决方案就是: 事前:提高缓存库的高可用, …