一致性hash算法以及其在分布式系统中的应用（转）

初始架构

 

策略1：每一次memcached请求随机发送到一台memcached机器

两个问题：

1、同一份数据可能被存在不同的机器上而造成数据冗余

2、有可能某数据已经被缓存但是访问却没有命中

 

策略2：保证对相同的key的访问会被发送到相同的服务器

h = Hash(key)%N

 

解决上面两个问题，但是引入新的问题——容错性和扩展性不好

 

容错性：指当系统中某一个或几个服务器变得不可用时，整个系统是否可以正确高效运行

扩展性：指当加入新的服务器后，整个系统是否可以正确高效运行

 

当减少一台服务器，需要按照Hash(key)%(N-1)

当增加一台服务器，需要按照Hash(key)%(N+1)

 

当系统中一旦服务器变更，大量的key会重定位到不同的服务器从而能造成大量的缓存不命中。

 

一个设计良好的分布式哈希方案应该具有良好的单调性，即服务器节点的增减不会造成大量哈希重定位。

 

策略3：一致性哈希算法

算法描述

一致性哈希将整个哈希值空间组织成一个虚拟的圆环，如假设某哈希函数H的值空间为0-2**32-1(哈希值是一个32位无符号整形)，整个哈希空间环如下：

 

定位服务器

 

将各个服务器使用H进行一个哈希，具体可以选择服务器的ip或者主机名作为关键字进行哈市，这样每台机器就能确定其在哈希环上的位置

 

定位数据

将数据key使用相同的函数H计算出哈希值h，通过h确定在数据在环上的位置，从此位置沿环顺时针行走，第一台遇到的服务器就是其应该定位的服务器。

假设有A、B、C、D四个数据对象，经过哈希计算后，在环空间上的位置如下：

 

A被定位Server1，D被定位Server3,B和C定位Server2

 

容错性与可扩展性分析

容错性

假如说Server3宕机了

可以看到此时A、C、B不会受影响，只有D节点被重定位到Server2

在一致性哈希算法中，如果一台服务器不可用，则受影响的数据仅仅是此服务器到其环空间中前一台服务器之间的数据，其他不会受影响。

可扩展性

增加一台服务器

A、D、C不受影响，只有B需要重定位新的Server4。在一致性哈希算法中，如果增加一台服务器，则受影响的数据仅仅是新服务器到其环空间中前一台服务器（即顺子逆时针行走遇到的第一台服务器）

之间数据，其他不会受影响。

 

一致性哈希算法对于节点的增减都只需要重定位环空间中的一小部分数据，具有较好的容错性和可扩展性。

 

虚拟节点

一致性哈希算法在服务节点很少，容易因为节点分布不均匀而造成数据倾斜问题。

此时必然造成大量数据集中在server1上，而只有极少量在server2上。

 

为了解决这种数据倾斜问题，一致性哈希算法引入虚拟节点机制。

对每个服务节点计算多个哈希值，每个计算结果位置都防止一个此服务节点，称为虚拟节点。

“Memcached Server 1#1”
“Memcached Server 1#2”

“Memcached Server 1#3”

“Memcached Server 2#1”

“Memcached Server 2#2”

“Memcached Server 2#3”

形成六个节点

 

http://blog.codinglabs.org/articles/consistent-hashing.html

http://www.codeproject.com/Articles/56138/Consistent-hashing