普通 Hash 分布算法的 PHP 实现

首先假设有 2 台服务器:127.0.0.1:11211 和 192.168.186.129:11211

当存储的 key 经过对 2 (2 台服务器)取模运算得出该 key 应该保存到的服务器:

  1. <?php
  2. $server = array(
  3. array('host' => '127.0.0.1', 'port' => 11211),
  4. array('host' => '192.168.186.129', 'port' => 11211),
  5. );
  6.  
  7. $key = 'TheKey';
  8. $value = 'TheValue';
  9.  
  10. //假设是两台服务器
  11. $sc = $server[crc32($key) % 2];
  12. var_dump($sc);//得出该 key 应保存在第一台服务器上
  13.  
  14. $mc = new Memcache();
  15. $mc->connect($sc['host'], $sc['port']);
  16. $mc->set($key, $value);

var_dump($sc) 输出的结果是:

  1. array
  2. 'host' => string '127.0.0.1' (length=9)
  3. 'port' => int 11211

此时使用 telnet 连接本机(127.0.0.1:11211)的 Memcached 服务器,get 该 key:

再当 key 应该存储到第二台服务器上时:

  1. <?php
  2. $server = array(
  3. array('host' => '127.0.0.1', 'port' => 11211),
  4. array('host' => '192.168.186.129', 'port' => 11211),
  5. );
  6.  
  7. $key = 'TheKey%';
  8. $value = 'TheValueSecond';
  9.  
  10. //假设是两台服务器
  11. $sc = $server[crc32($key) % 2];
  12. var_dump($sc);//得出该 key 应保存在第二台服务器上
  13.  
  14. $mc = new Memcache();
  15. $mc->connect($sc['host'], $sc['port']);
  16. $mc->set($key, $value);

var_dump($sc) 输出的结果是:

  1. array
  2. 'host' => string '192.168.186.129' (length=15)
  3. 'port' => int 11211

此时使用 telnet 连接虚拟机(192.168.186.129:11211)的 Memcached 服务器,get 该 key:

普通 Hash 分布的缺点是:当服务器数量发生变化时,同一个 key 经过 Hash 之后,与服务器取模的结果跟没有增加或减少服务器之前的结果可能会不一样。例如:原来有 8 台服务器,宕掉 1 台之后,还剩 7 台,则 8 台服务器 $key % 8 = 0,$key % 7 = 0,此时为命中(hits);如果 $key % 8 = 0,%key % 7 = 1,则此时 miss。

为了把丢失的数据减小到最少,可以使用 一致性哈希算法(Consistent Hashing)。

一致性哈希算法

step 1. 将一个 32 位的整数(0~2^32 - 1)想象成一个环,0 作为圆环的头,2^32 - 1 作为圆环的尾。

step 2. 通过 Hash 函数把 key 处理成整数:

  1. $key1 = crc32($key1);
  2. $key2 = crc32($key2);
  3. $key3 = crc32($key3);
  4. $key4 = crc32($key4);

step 3. 把 Memcached 群映射到环上。使用 Hash 函数把服务器的 IP 地址处理成整数:

  1. $server1 = crc32('127.0.0.1');
  2. $server2 = crc32('192.168.186.129');
  3. $server3 = crc32('192.168.186.130');

通过以上步骤,把 key 和 服务器都映射到环上。

step 4. 把数据映射到服务器上。

如图,key1 落在了 server 3 上,key 4 和 key 3 落在了 server 2 上,key 2 落在了 server 1 上。

step 5. 移除服务器

当 server 2 宕机了,受到影响的仅仅是圆环上 server 3 和 server 2 之间的数据(key 3 和 key 4),即映射到 server 2 的数据。

step 6. 添加服务器

如果要增加 server 4,通过映射,它将出现在 key 3 和 key 4 之间,则此时受到影响的将是 server 3 和 server 4 之间的数据(key 4)。把 key 4 重新映射到 server 4 上即可。

Memcached 笔记与总结(5)Memcached 的普通哈希分布和一致性哈希分布的更多相关文章

  1. Memcached笔记——(三)Memcached使用总结

    为了将N个前端数据同步,通过Memcached完成数据打通,但带来了一些新问题: 使用iBatis整合了Memcached,iBatis针对每台server生成了唯一标识,导致同一份数据sql会产生不 ...

  2. Memcached 笔记与总结(8)Memcached 的普通哈希分布算法和一致性哈希分布算法命中率对比

    准备工作: ① 配置文件 config.php ② 封装 Memcached 类 hash.class.php,包含普通哈希算法(取模)和一致性哈希算法 ③ 初始化 Memcached 节点信息 in ...

  3. Memcached笔记——(四)应对高并发攻击【转】

    http://snowolf.iteye.com/blog/1677495 近半个月过得很痛苦,主要是产品上线后,引来无数机器用户恶意攻击,不停的刷新产品各个服务入口,制造垃圾数据,消耗资源.他们的最 ...

  4. Memcached笔记——(四)应对高并发攻击

    近半个月过得很痛苦,主要是产品上线后,引来无数机器用户恶意攻击,不停的刷新产品各个服务入口,制造垃圾数据,消耗资源.他们的最好成绩,1秒钟可以并发6次,赶在Database入库前,Cache进行Mis ...

  5. Memcached笔记——(二)XMemcached&Spring集成

    今天研究Memcached的Java的Client,使用XMemcached 1.3.5,做个简单的测试,并介绍如何与Spring集成. 相关链接: Memcached笔记--(一)安装&常规 ...

  6. Memcached笔记——(一)安装&常规错误&监控

    08年的时候接触过Memcached,当时还对它的客户端产品嗤之以鼻,毕竟手工代码没有各种ORM原生XML配置方便.尽管如此,Memcached现在已经成了服务器架构里不可或缺的一部分! 相关链接: ...

  7. Linux实战教学笔记32:企业级Memcached服务应用实践

    一, Memcached介绍 1.1 Memcached与常见同类软件对比 (1)Memcached是什么? Memcached是一个开源的,支持高性能,高并发的分布式内存缓存系统,由C语言编写,总共 ...

  8. Memcached 笔记与总结(7)增加虚拟节点

    仅仅把 Memcached 服务器集群地址通过一致性哈希转映射在圆环上,可能会出现数据不能均匀地分配给各台 Memcached 服务器. 解决方案是引入虚拟节点,就是把每个映射在圆环上的服务器地址(物 ...

  9. Memcached 笔记与总结(9)Memcached 与 Session

    一.Memcached 存储 Session 由于 Memcached 是分布式的内存对象缓存系统,因此可以用来实现 Session 同步:把 Web 服务器中的内存组合起来,成为一个“内存池”,不管 ...

随机推荐

  1. Android概述

  2. svn 日志版本回滚

    [root@v01 online]# svn diff -r 9:8 Index: index.html =============================================== ...

  3. Xamarin.Android开发实践(十四)

    Xamarin.Android之ListView和Adapter 一.前言 如今不管任何应用都能够看到列表的存在,而本章我们将学习如何使用Xamarin去实现它,以及如何使用适配器和自定义适配器(本文 ...

  4. Java Hour 35 Weather ( 8 ) struts2 – message resource

    有句名言,叫做10000小时成为某一个领域的专家.姑且不辩论这句话是否正确,让我们到达10000小时的时候再回头来看吧. Hour 35 刚发表了一条闪存,在这个公司快满3个月了,该正式决定留下来还是 ...

  5. Java Hour4

    有句名言,叫做10000小时成为某一个领域的专家.姑且不辩论这句话是否正确,让我们到达10000小时的时候再回头来看吧. 本文作者Java 现经验约为3 Hour,请各位不吝赐教. Hour4 继承用 ...

  6. Java和Android注释规范

    1. 文件头注释 每一个文件的文件头都必须做文件头注释.文件头注释范例如下: /* * 文件名:LoginActivity * 描 述:对用户 * 作 者: * 时 间: * 版 权: */   2. ...

  7. VMware Workstation卸载清理批处理命令

    echo offclsecho "flag">>%windir%\system32\test.logif not exist %windir%\system32\tes ...

  8. Android 返回键双击退出程序

    /** * 菜单.返回键响应 */ @Override public boolean onKeyDown(int keyCode, KeyEvent event) { if (keyCode == K ...

  9. mysql指定某行或者某列的排序

    方法: 通过desc: 都无法实现: 方法一: select sp.productid,sp.productname,ss.sku from sp_product sp inner join sku_ ...

  10. yuv rgb 像素格式1

    ===========大小============= 一般,直接采集到的视频数据是RGB24的格式 RGB24一帧的大小size=width×heigth×3 Byte, RGB32的size=wid ...