MemCached详细解读

MemCache是一个自由、源码开放、高性能、分布式的分布式内存对象缓存系统&＃xff0c;用于动态Web应用以减轻数据库的负载。它通过在内存中缓存数据和对象来减少读取数据库的次数&＃xff0c;从而提高了网站访问的速度。MemCaChe是一个存储键值对的HashMap&＃xff0c;在内存中对任意的数据&＃xff08;比如字符串、对象等&＃xff09;所使用的key-value存储&＃xff0c;数据可以来自数据库调用、API调用&＃xff0c;或者页面渲染的结果。MemCache设计理念就是小而强大&＃xff0c;它简单的设计促进了快速部署、易于开发并解决面对大规模的数据缓存的许多难题&＃xff0c;而所开放的API使得MemCache能用于Java、C/C&＃43;&＃43;/C#、Perl、Python、PHP、Ruby等大部分流行的程序语言。

另外&＃xff0c;说一下MemCache和MemCached的区别&＃xff1a;

1、MemCache是项目的名称

2、MemCached是MemCache服务器端可以执行文件的名称

MemCache的官方网站为http://memcached.org/

MemCache访问模型

为了加深理解&＃xff0c;我模仿着原阿里技术专家李智慧老师《大型网站技术架构 核心原理与案例分析》一书MemCache部分&＃xff0c;自己画了一张图&＃xff1a;

特别澄清一个问题&＃xff0c;MemCache虽然被称为"分布式缓存"&＃xff0c;但是MemCache本身完全不具备分布式的功能&＃xff0c;MemCache集群之间不会相互通信&＃xff08;与之形成对比的&＃xff0c;比如JBoss Cache&＃xff0c;某台服务器有缓存数据更新时&＃xff0c;会通知集群中其他机器更新缓存或清除缓存数据&＃xff09;&＃xff0c;所谓的"分布式"&＃xff0c;完全依赖于客户端程序的实现&＃xff0c;就像上面这张图的流程一样。

同时基于这张图&＃xff0c;理一下MemCache一次写缓存的流程&＃xff1a;

1、应用程序输入需要写缓存的数据

2、API将Key输入路由算法模块&＃xff0c;路由算法根据Key和MemCache集群服务器列表得到一台服务器编号

3、由服务器编号得到MemCache及其的ip地址和端口号

4、API调用通信模块和指定编号的服务器通信&＃xff0c;将数据写入该服务器&＃xff0c;完成一次分布式缓存的写操作

读缓存和写缓存一样&＃xff0c;只要使用相同的路由算法和服务器列表&＃xff0c;只要应用程序查询的是相同的Key&＃xff0c;MemCache客户端总是访问相同的客户端去读取数据&＃xff0c;只要服务器中还缓存着该数据&＃xff0c;就能保证缓存命中。

这种MemCache集群的方式也是从分区容错性的方面考虑的&＃xff0c;假如Node2宕机了&＃xff0c;那么Node2上面存储的数据都不可用了&＃xff0c;此时由于集群中Node0和Node1还存在&＃xff0c;下一次请求Node2中存储的Key值的时候&＃xff0c;肯定是没有命中的&＃xff0c;这时先从数据库中拿到要缓存的数据&＃xff0c;然后路由算法模块根据Key值在Node0和Node1中选取一个节点&＃xff0c;把对应的数据放进去&＃xff0c;这样下一次就又可以走缓存了&＃xff0c;这种集群的做法很好&＃xff0c;但是缺点是成本比较大。

一致性Hash算法

从上面的图中&＃xff0c;可以看出一个很重要的问题&＃xff0c;就是对服务器集群的管理&＃xff0c;路由算法至关重要&＃xff0c;就和负载均衡算法一样&＃xff0c;路由算法决定着究竟该访问集群中的哪台服务器&＃xff0c;先看一个简单的路由算法。

1、余数Hash

比方说&＃xff0c;字符串str对应的HashCode是50、服务器的数目是3&＃xff0c;取余数得到1&＃xff0c;str对应节点Node1&＃xff0c;所以路由算法把str路由到Node1服务器上。由于HashCode随机性比较强&＃xff0c;所以使用余数Hash路由算法就可以保证缓存数据在整个MemCache服务器集群中有比较均衡的分布。

如果不考虑服务器集群的伸缩性&＃xff08;什么是伸缩性&＃xff0c;请参见大型网站架构学习笔记&＃xff09;&＃xff0c;那么余数Hash算法几乎可以满足绝大多数的缓存路由需求&＃xff0c;但是当分布式缓存集群需要扩容的时候&＃xff0c;就难办了。

就假设MemCache服务器集群由3台变为4台吧&＃xff0c;更改服务器列表&＃xff0c;仍然使用余数Hash&＃xff0c;50对4的余数是2&＃xff0c;对应Node2&＃xff0c;但是str原来是存在Node1上的&＃xff0c;这就导致了缓存没有命中。如果这么说不够明白&＃xff0c;那么不妨举个例子&＃xff0c;原来有HashCode为0~19的20个数据&＃xff0c;那么&＃xff1a;

现在我扩容到4台&＃xff0c;加粗标红的表示命中&＃xff1a;

如果我扩容到20&＃43;的台数&＃xff0c;只有前三个HashCode对应的Key是命中的&＃xff0c;也就是15%。当然这只是个简单例子&＃xff0c;现实情况肯定比这个复杂得多&＃xff0c;不过足以说明&＃xff0c;使用余数Hash的路由算法&＃xff0c;在扩容的时候会造成大量的数据无法正确命中&＃xff08;其实不仅仅是无法命中&＃xff0c;那些大量的无法命中的数据还在原缓存中在被移除前占据着内存&＃xff09;。这个结果显然是无法接受的&＃xff0c;在网站业务中&＃xff0c;大部分的业务数据度操作请求上事实上是通过缓存获取的&＃xff0c;只有少量读操作会访问数据库&＃xff0c;因此数据库的负载能力是以有缓存为前提而设计的。当大部分被缓存了的数据因为服务器扩容而不能正确读取时&＃xff0c;这些数据访问的压力就落在了数据库的身上&＃xff0c;这将大大超过数据库的负载能力&＃xff0c;严重的可能会导致数据库宕机。

这个问题有解决方案&＃xff0c;解决步骤为&＃xff1a;

&＃xff08;1&＃xff09;在网站访问量低谷&＃xff0c;通常是深夜&＃xff0c;技术团队加班&＃xff0c;扩容、重启服务器

&＃xff08;2&＃xff09;通过模拟请求的方式逐渐预热缓存&＃xff0c;使缓存服务器中的数据重新分布

2、一致性Hash算法

一致性Hash算法通过一个叫做一致性Hash环的数据结构实现Key到缓存服务器的Hash映射&＃xff0c;看一下我自己画的一张图&＃xff1a;

具体算法过程为&＃xff1a;先构造一个长度为2³²的整数环&＃xff08;这个环被称为一致性Hash环&＃xff09;&＃xff0c;根据节点名称的Hash值&＃xff08;其分布为[0, 2³²-1]&＃xff09;将缓存服务器节点放置在这个Hash环上&＃xff0c;然后根据需要缓存的数据的Key值计算得到其Hash值&＃xff08;其分布也为[0, 2³²-1]&＃xff09;&＃xff0c;然后在Hash环上顺时针查找距离这个Key值的Hash值最近的服务器节点&＃xff0c;完成Key到服务器的映射查找。

就如同图上所示&＃xff0c;三个Node点分别位于Hash环上的三个位置&＃xff0c;然后Key值根据其HashCode&＃xff0c;在Hash环上有一个固定位置&＃xff0c;位置固定下之后&＃xff0c;Key就会顺时针去寻找离它最近的一个Node&＃xff0c;把数据存储在这个Node的MemCache服务器中。使用Hash环如果加了一个节点会怎么样&＃xff0c;看一下&＃xff1a;

看到我加了一个Node4节点&＃xff0c;只影响到了一个Key值的数据&＃xff0c;本来这个Key值应该是在Node1服务器上的&＃xff0c;现在要去Node4了。采用一致性Hash算法&＃xff0c;的确也会影响到整个集群&＃xff0c;但是影响的只是加粗的那一段而已&＃xff0c;相比余数Hash算法影响了远超一半的影响率&＃xff0c;这种影响要小得多。更重要的是&＃xff0c;集群中缓存服务器节点越多&＃xff0c;增加节点带来的影响越小&＃xff0c;很好理解。换句话说&＃xff0c;随着集群规模的增大&＃xff0c;继续命中原有缓存数据的概率会越来越大&＃xff0c;虽然仍然有小部分数据缓存在服务器中不能被读到&＃xff0c;但是这个比例足够小&＃xff0c;即使访问数据库&＃xff0c;也不会对数据库造成致命的负载压力。

至于具体应用&＃xff0c;这个长度为2³²的一致性Hash环通常使用二叉查找树实现&＃xff0c;至于二叉查找树&＃xff0c;就是算法的问题了&＃xff0c;可以自己去查询相关资料。

MemCache实现原理

首先要说明一点&＃xff0c;MemCache的数据存放在内存中&＃xff0c;存放在内存中个人认为意味着几点&＃xff1a;

1、访问数据的速度比传统的关系型数据库要快&＃xff0c;因为Oracle、MySQL这些传统的关系型数据库为了保持数据的持久性&＃xff0c;数据存放在硬盘中&＃xff0c;IO操作速度慢

2、MemCache的数据存放在内存中同时意味着只要MemCache重启了&＃xff0c;数据就会消失

3、既然MemCache的数据存放在内存中&＃xff0c;那么势必受到机器位数的限制&＃xff0c;这个之前的文章写过很多次了&＃xff0c;32位机器最多只能使用2GB的内存空间&＃xff0c;64位机器可以认为没有上限

然后我们来看一下MemCache的原理&＃xff0c;MemCache最重要的莫不是内存分配的内容了&＃xff0c;MemCache采用的内存分配方式是固定空间分配&＃xff0c;还是自己画一张图说明&＃xff1a;

这张图片里面涉及了slab_class、slab、page、chunk四个概念&＃xff0c;它们之间的关系是&＃xff1a;

1、MemCache将内存空间分为一组slab

2、每个slab下又有若干个page&＃xff0c;每个page默认是1M&＃xff0c;如果一个slab占用100M内存的话&＃xff0c;那么这个slab下应该有100个page

3、每个page里面包含一组chunk&＃xff0c;chunk是真正存放数据的地方&＃xff0c;同一个slab里面的chunk的大小是固定的

4、有相同大小chunk的slab被组织在一起&＃xff0c;称为slab_class

MemCache内存分配的方式称为allocator&＃xff0c;slab的数量是有限的&＃xff0c;几个、十几个或者几十个&＃xff0c;这个和启动参数的配置相关。

MemCache中的value过来存放的地方是由value的大小决定的&＃xff0c;value总是会被存放到与chunk大小最接近的一个slab中&＃xff0c;比如slab[1]的chunk大小为80字节、slab[2]的chunk大小为100字节、slab[3]的chunk大小为128字节&＃xff08;相邻slab内的chunk基本以1.25为比例进行增长&＃xff0c;MemCache启动时可以用-f指定这个比例&＃xff09;&＃xff0c;那么过来一个88字节的value&＃xff0c;这个value将被放到2号slab中。放slab的时候&＃xff0c;首先slab要申请内存&＃xff0c;申请内存是以page为单位的&＃xff0c;所以在放入第一个数据的时候&＃xff0c;无论大小为多少&＃xff0c;都会有1M大小的page被分配给该slab。申请到page后&＃xff0c;slab会将这个page的内存按chunk的大小进行切分&＃xff0c;这样就变成了一个chunk数组&＃xff0c;最后从这个chunk数组中选择一个用于存储数据。

如果这个slab中没有chunk可以分配了怎么办&＃xff0c;如果MemCache启动没有追加-M&＃xff08;禁止LRU&＃xff0c;这种情况下内存不够会报Out Of Memory错误&＃xff09;&＃xff0c;那么MemCache会把这个slab中最近最少使用的chunk中的数据清理掉&＃xff0c;然后放上最新的数据。针对MemCache的内存分配及回收算法&＃xff0c;总结三点&＃xff1a;

1、MemCache的内存分配chunk里面会有内存浪费&＃xff0c;88字节的value分配在128字节&＃xff08;紧接着大的用&＃xff09;的chunk中&＃xff0c;就损失了30字节&＃xff0c;但是这也避免了管理内存碎片的问题

2、MemCache的LRU算法不是针对全局的&＃xff0c;是针对slab的

3、应该可以理解为什么MemCache存放的value大小是限制的&＃xff0c;因为一个新数据过来&＃xff0c;slab会先以page为单位申请一块内存&＃xff0c;申请的内存最多就只有1M&＃xff0c;所以value大小自然不能大于1M了

再总结MemCache的特性和限制

上面已经对于MemCache做了一个比较详细的解读&＃xff0c;这里再次总结MemCache的限制和特性&＃xff1a;

1、MemCache中可以保存的item数据量是没有限制的&＃xff0c;只要内存足够

2、MemCache单进程在32位机中最大使用内存为2G&＃xff0c;这个之前的文章提了多次了&＃xff0c;64位机则没有限制

3、Key最大为250个字节&＃xff0c;超过该长度无法存储

4、单个item最大数据是1MB&＃xff0c;超过1MB的数据不予存储

5、MemCache服务端是不安全的&＃xff0c;比如已知某个MemCache节点&＃xff0c;可以直接telnet过去&＃xff0c;并通过flush_all让已经存在的键值对立即失效

6、不能够遍历MemCache中所有的item&＃xff0c;因为这个操作的速度相对缓慢且会阻塞其他的操作

7、MemCache的高性能源自于两阶段哈希结构&＃xff1a;第一阶段在客户端&＃xff0c;通过Hash算法根据Key值算出一个节点&＃xff1b;第二阶段在服务端&＃xff0c;通过一个内部的Hash算法&＃xff0c;查找真正的item并返回给客户端。从实现的角度看&＃xff0c;MemCache是一个非阻塞的、基于事件的服务器程序

8、MemCache设置添加某一个Key值的时候&＃xff0c;传入expiry为0表示这个Key值永久有效&＃xff0c;这个Key值也会在30天之后失效&＃xff0c;见memcache.c的源代码&＃xff1a;

这个失效的时间是memcache源码里面写的&＃xff0c;开发者没有办法改变MemCache的Key值失效时间为30天这个限制

MemCache指令汇总

上面说过&＃xff0c;已知MemCache的某个节点&＃xff0c;直接telnet过去&＃xff0c;就可以使用各种命令操作MemCache了&＃xff0c;下面看下MemCache有哪几种命令&＃xff1a;

stats指令解读

stats是一个比较重要的指令&＃xff0c;用于列出当前MemCache服务器的状态&＃xff0c;拿一组数据举个例子&＃xff1a;

这些参数反映着MemCache服务器的基本信息&＃xff0c;它们的意思是&＃xff1a;

stats slab指令解读

如果对上面的MemCache存储机制比较理解了&＃xff0c;那么我们来看一下各个slab中的信息&＃xff0c;还是拿一组数据举个例子&＃xff1a;

首先看到&＃xff0c;第二个slab的chunk_size&＃xff08;144&＃xff09;/第一个slab的chunk_size&＃xff08;96&＃xff09;&＃61;1.5&＃xff0c;第三个slab的chunk_size&＃xff08;216&＃xff09;/第二个slab的chunk_size&＃xff08;144&＃xff09;&＃61;1.5&＃xff0c;可以确定这个MemCache的增长因子是1.5&＃xff0c;chunk_size以1.5倍增长。然后解释下字段的含义&＃xff1a;

看到这个命令的输出量很大&＃xff0c;所有信息都很有作用。举个例子吧&＃xff0c;比如第一个slab中使用的chunks很少&＃xff0c;第二个slab中使用的chunks很多&＃xff0c;这时就可以考虑适当增大MemCache的增长因子了&＃xff0c;让一部分数据落到第一个slab中去&＃xff0c;适当平衡两个slab中的内存&＃xff0c;避免空间浪费。

MemCache的Java实现实例

讲了这么多&＃xff0c;作为一个Java程序员&＃xff0c;怎么能不写写MemCache的客户端的实现呢&＃xff1f;MemCache的客户端有很多第三方jar包提供了实现&＃xff0c;其中比较好的当属XMemCached了&＃xff0c;XMemCached具有效率高、IO非阻塞、资源耗费少、支持完整的协议、允许设置节点权重、允许动态增删节点、支持JMX、支持与Spring框架集成、使用连接池、可扩展性好等诸多优点&＃xff0c;因而被广泛使用。这里利用XMemCache写一个简单的MemCache客户单实例&＃xff0c;也没有验证过&＃xff0c;纯属抛砖引玉&＃xff1a;