一、Memcached简介:

1. Memcached是一个自由开源的,高性能的,分布式内存对象缓存系统。

2. Memcached是一种基于内存的key-value存储,用来存储小块的任意数据(字符串、对象)。

这些数据可以是数据库调用、API调用或者是页面渲染的结果。一般的使用目的是,通过

缓存数据库查询结果,减少数据库访问次数,以提高动态Web应用的速度、提高可扩展

性。

3. Memcached简洁而强大。它的简洁设计便于快速开发,减轻开发难度,解决了大数据量

缓存的很多问题。其守护进程是用C写的,但是客户端可以用任何语言来编写,并通过

memcached协议与守护进程通信。它的API兼容大部分流行的开发语言。

4. Memcached特点:

(1)基于C/S架构,协议简单;

(基于文本行的协议,可使用telnet协议连接);

(2)基于libevent的事件处理;

(使用libevent来进行网络并发连接的处理,在很大并发情况下仍能保持快速的响应能力);

(3)内置内存存储方式;

(4)memcached不互相通信的分布式。

二、Memcached内存分配:

1. 名词理解:

(1)Page:分配给Slab的内存空间,默认是1MB,分配给Slab之后根据slab的大小切

成chunk。page一旦被分配,在memcached重启前不会被回收或者重新分配。

(2)chunk:用于缓存记录的内存空间。

(3)Slab Class:特定大小的chunk的组。每个slab只负责一定大小范围内的数据存储。

每个slab中的chunk都是相同大小的。

2. page、slab和chunk三者关系的理解:

(1)page是memcached在收到内存不够的请求,并进行内存分配的单位。举例来说,

slab2的所有空间都用完了,又有大小适合slab2的数据过来了,那么slab2就会向

memcached请求新的内存空间,memcached就会划分一个page大小的内存量到

slab2。page的默认大小是1M,这个数值可以通过参数-I来修改。

(2)slab是memcached用来划定存储空间的大小概念,每当memcached启动的时候,

它会按照-n参数配置的值(如果有的话,否则为默认值)来决定第一个slab的大小,

然后根据-f参数的值来决定后续slab大小的增长速率,一个一个地决定后续的slab

的大小,直到slab的大小达到设定的page大小(一般是1M)。

(3)chunk是实际用来存储数据的内存空间,它的大小和包含它的slab的大小是一致的。

当page大小的内存分配到slab的时候,slab会根据自身的大小将page大小的内存

分割成 page / slabsize 个chunk。

3. 数据存储方式:Slab Allocation 原理

将分配的内存分割成各种尺寸的块(chunk),并把尺寸相同的块分成组,以完全解决内存碎片问题。Memcached根据收到的数据的大小,选择最适合数据大小的slab。Memcached中保存着slab内空闲chunk的列表,根据该列表选择chunk,然后将数据缓存于其中。

优点:不会存在内存碎片。

缺点:由于分配的是特定长度的内存,所以无法有效利用分配的内存。

4. 数据过期方式:Lazy Expiration + LRU(Least Recently Used)

(1)Lazy Expiration:Memcached内部不会监视记录是否过期,而是在get命令执行时查

看记录的时间戳,检查记录是否过期。如果某一个item在memcached里过期了,

这个东西并不会被删除,而是客户端无法再看见该记录(invisible,透明), 其存储

空间即可重复使用。

注:只有对一个key执行了get命令之后Memcached才会知道这个key对应的值是否已过期,

这点可以使用命令来测试。当Memcached中的某些key对应的值过期之后,执行stats

sizes等统计命令的时候,Memcached还是将它们当做未过期的数据,只有执行了get

之后再执行统计命令,Memcached才知道哪些数据已过期。

(2)LRU:Memcached会优先使用已超时的记录的空间,当内存空间不足时,就从最近

未被使用的记录中搜索,并将其空间分配给新的记录。

三、Memcached一些特性和限制:

  1. memcached缺乏认证以及安全管制,这代表应该将memcached服务器放置在防火墙后。
  2. memcached不提供冗余,当某个服务器S停止运行或崩溃了,所有存放在S上的键/值对

都将丢失。

3. 往memcached存储的所有数据,如果数据的大小分布于各种chunk大小区间,从64B到1MB

都有,可能会造成内存的极大浪费以及memcached的异常。

4. 在Memcached中可以保存的item数据量是没有限制的,只要内存足够。

5. Memcached单进程最大使用内存为2G,若要使用更多内存,可以多个端口开启多个

Memcached进程。

6. 最大30天的数据过期时间,设置为永久的也会在这个时间过期,由常量

REALTIME_MAXDELTA控制。

7. 最大键长为250字节,大于该长度无法存储,由常量KEY_MAX_LENGTH控制。

8. 单个item最大数据是1MB,超过1MB不予存储,由常量POWER_BLOCK控制。它是默认

的slab大小。

9. 最大同时连接数是200,通过conn_init()中的freetotal进行控制,最大软连接数是1024,

通过settings.maxconns进行控制。

10. 参数settings.factor和settings.chunk_size分别控制slab的数据占用和步进方式。

Memcached理解的更多相关文章

  1. Memcached理解笔记4---应对高并发攻击

    近半个月过得很痛苦,主要是产品上线后,引来无数机器用户恶意攻击,不停的刷新产品各个服务入口,制造垃圾数据,消耗资源.他们的最好成绩,1秒钟可以并发6次,赶在Database入库前,Cache进行Mis ...

  2. Memcached理解笔记3---Memcached使用总结

    为了将N个前端数据同步,通过Memcached完成数据打通,但带来了一些新问题: 使用iBatis整合了Memcached,iBatis针对每台server生成了唯一标识,导致同一份数据sql会产生不 ...

  3. Memcached理解笔2---XMemcached&Spring集成

    一.Memcached Client简要介绍 Memcached Client目前有3种: Memcached Client for Java SpyMemcached XMemcached 这三种C ...

  4. Memcached理解笔记1---安装&常规错误&监控

    一.下载 1.Libevent 简单的说就是一个事件触发的网络库,Memcached离不开它. wget http://cloud.github.com/downloads/libevent/libe ...

  5. memcached全面剖析–2. 理解memcached的内存存储

    Slab Allocation机制:整理内存以便重复使用 最近的memcached默认情况下采用了名为Slab Allocator的机制分配.管理内存. 在该机制出现以前,内存的分配是通过对所有记录简 ...

  6. 深入理解memcached

    网上有5篇介绍memcached的文章,写的挺好,这里转过来. memcached完全剖析–1. memcached的基础 memcached全面剖析–2.理解memcached的内存存储 memca ...

  7. memcached全面剖析--2.理解memcached的内存存储

    下面是<memcached全面剖析>的第二部分. 发表日:2008/7/9 作者:前坂徹(Toru Maesaka) 原文链接:http://gihyo.jp/dev/feature/01 ...

  8. 理解Memcached的分布式

    Memcached尽管是"分布式"的缓存系统,但是服务器端并没有分布式功能.各个Memcached实例不会相互通信以共享信息,Memcached如何进行分布式完全取决于客户端的实现 ...

  9. MongoDB仲裁节点的理解以及memcached,zookeeper,redis,故障恢复方案思考.

    在进行副本集部署时我们会添加一个或多个仲裁节点,仲裁节点不用于备份数据,由于它职责的职责是负责选举主节点,所以对硬件没有太高要求,可以将它部署在单独的服务器上,这个服务器可以是监听服务器,也可以部署在 ...

随机推荐

  1. eclipse : java项目中的web.xml( Deployment Descriptor 部署描述文件 )配置说明

    context-param.listener.filter.servlet  首先可以肯定的是,加载顺序与它们在 web.xml 配置文件中的先后顺序无关.即不会因为 filter 写在 listen ...

  2. Hyperledger Fabric 1.0 从零开始(二)——环境构建(公网)

    1:环境构建 在本文中用到的宿主机环境是Centos ,版本为Centos.x86_647.2,通过Docker 容器来运行Fabric的节点,版本为v1.0.因此,启动Fabric网络中的节点需要先 ...

  3. php-laravel4.0框架 简单快速入门

    前提必须已经安装好了laravel4.0版本. 写入权限: 安装完 Laravel ,你还需要为web服务器设置 app/storage 目录的写入权限. 目录结构: 安装完框架后,你需要熟悉一下该项 ...

  4. CSS公用

    *{font-size: 100px;} body,span,h1,h2,h3,h4,h5,h6,li,ul,p,em,strong,ol,form,pre,input,article,header, ...

  5. Qt--自定义View

    这是上一篇文章的续篇,关于自定义View. 多个View内部可以映射到同一个数据模型,也可以映射不同的数据结构:可以使用所有数据,也可以只使用部分数据.因为视图层与数据层的分离,操作相对比较灵活. 1 ...

  6. Struts2的核心运行流程,原理图解

    感觉很有必要制定一个计划,这样盲目的想到哪里写到哪里,不符合我大程序员的思维逻辑呀~~~嗯...那就从基本的开始吧,循循渐进,今天想到的先写上,不能浪费了,哈哈哈................... ...

  7. CA认证和颁发吊销证书

    摘要:涉及到网络安全这一块,想必大家都听过CA吧.像百度.淘宝.京东等这些知名网站,每年都要花费一笔money来买CA证书.但其实简单的企业内的CA认证,我们自己就可以实现,今天小编我就讲解一下怎么在 ...

  8. OpenCV探索之路(二十五):制作简易的图像标注小工具

    搞图像深度学习的童鞋一定碰过图像数据标注的东西,当我们训练网络时需要训练集数据,但在网上又没有找到自己想要的数据集,这时候就考虑自己制作自己的数据集了,这时就需要对图像进行标注.图像标注是件很枯燥又很 ...

  9. Springboot 学习笔记 ①

    前言 之前一直在寻找Springboot的学习资料,终于得偿所愿...那么,先给自己定一个小目标 - 能够使用Springboot这套架构来搭建自己的服务. 准备阶段 1. 开发环境 开发环境其实还是 ...

  10. Apache shiro的简单介绍与使用(与spring整合使用)

    apache shiro框架简介 Apache Shiro是一个强大而灵活的开源安全框架,它能够干净利落地处理身份认证,授权,企业会话管理和加密.现在,使用Apache Shiro的人越来越多,因为它 ...