_00013 一致性哈希算法 Consistent Hashing 新的讨论，并出现相应的解决
笔者博文：妳那伊抹微笑 idkey=bf80524ac3630cb0951006dfcd8888187bdc020161d1586bb207d85577577a71">
博客地址：http://blog.csdn.net/u012185296
个性签名：世界上最遥远的距离不是天涯，也不是海角，而是我站在妳的面前。妳却感觉不到我的存在
技术方向：Flume+Kafka+Storm+Redis/Hbase+Hadoop+Hive+Mahout+Spark ... 云计算技术
转载声明：能够转载, 但必须以超链接形式标明文章原始出处和作者信息及版权声明，谢谢合作。
qq交流群：214293307 
（期待与你一起学习，共同进步）
一、业务场景
假如我们如今有12台Redisserver（其他的什么东西也行）。有非常多User（用户）的数据数据从前端过来，然后往12台redisserver上存储。在存储中就会出现一个问题。12台server，有可能当中几台Redisserver上（简称集群A）存了非常多的数据，然后另外几台Redisserver（简称集群B）上存的数据非常少，这种话那 A 上的读写压力就会非常大（当然，这个要看你的数据量的大小了，假设你数据量非常小的话。基本无压力了，可是数据量非常大，那就 、、、），对于这种问题，我们通常的解决的方法是什么呢
？一般一般会想到的就是哈希取余了吧！
也就是 Hash（userid）% N (N=12)。这种话也能适当的减小非常多压力了。可是这种话又会产生一些新的问题，添加节点跟降低节点 ：
1、降低节点：
假如有一台Redisserver挂掉了，那么是否这样 Hash（userid）% N (N=12) 哈希取余到该Redis的数据会所有丢失呢 ？假设不要该节点。那么仅仅剩下11台Redisserver了，原来的映射关系 Hash（userid）% N (N=12) 变成了 Hash（userid）%
（N-1） (N=12)。重点是数据丢失怎样找回 ？
2、添加节点：
假如有一天想添加Redisserver了。这时候麻烦来了，这时候须要将原来的映射关系 Hash（userid）% N (N=12) 变成 Hash（userid）% （N+1） (N=12) 了，跟 降低节点一样。这岂不是曾经所有的映射所有失效了 ？这不是坑爹么！
！！
数据混乱，后台可能瞬间垮掉。那样的代价非常大
、、、
3、硬件越来越廉价了。公司越来越大了，然后server越来越多了：
哈希取余 Hash（userid）% N (N=12) 就也全然不能满足需求了。不能改动映射关系，改动之后灰常麻烦 。
这时候该怎么办呢 ？有什么办法能够改变这个状况呢，当然就是一致性哈希
Consistent Hashing了 ......
自己懒得写原理了，以下引用了 http://blog.csdn.net/sparkliang/article/details/5279393，具体介绍了一致性哈希。灰常好 、、、
二、 hash 算法和单调性
Hash 算法的一个衡量指标是单调性（ Monotonicity ），定义例如以下：
单调性是指假设已经有一些内容通过哈希分派到了对应的缓冲中。又有新的缓冲增加到系统中。哈希的结果应可以保证原有已分配的内容可以被映射到新的缓冲中去，而不会被映射到旧的缓冲集合中的其它缓冲区。
easy看到。上面的简单 hash 算法 hash(object)%N 难以满足单调性要求。
三、Consistent hashing 算法的原理
Consistent Hashing 是一种 hash 算法，简单的说，在移除 / 加入一个 cache 时，它可以尽可能小的改变已存在 key 映射关系，尽可能的满足单调性的要求。
以下就来依照 5 个步骤简单讲讲 consistent hashing 算法的基本原理。
四、环形hash 空间
考虑通常的 hash 算法都是将 value 映射到一个 32 为的 key 值。也即是 0~2^32-1 次方的数值空间；我们能够将这个空间想象成一个首（ 0 ）尾（ 2^32-1 ）相接的圆环，如以下图 1 所看到的的那样。
图 1 环形 hash 空间
五、把对象映射到hash 空间
接下来考虑 4 个对象 object1~object4 ，通过 hash 函数计算出的 hash 值 key 在环上的分布如图 2 所看到的。
hash(object1) = key1;
… …
hash(object4) = key4;
图 2 4 个对象的 key 值分布
六、 把cache 映射到hash 空间
Consistent Hashing 的基本思想就是将对象和 cache 都映射到同一个 hash 数值空间中，而且使用同样的 hash算法。
如果当前有 A,B 和 C 共 3 台 cache ，那么其映射结果将如图 3 所看到的。他们在 hash 空间中，以相应的 hash 值排列。
hash(cache A) = key A;
… …
hash(cache C) = key C;
图 3 cache 和对象的 key 值分布
讲到这里。顺便提一下 cache 的 hash 计算，一般的方法能够使用 cache 机器的 IP 地址或者机器名作为 hash输入。
七、把对象映射到cache
如今 cache 和对象都已经通过同一个 hash 算法映射到 hash 数值空间中了。接下来要考虑的就是怎样将对象映射到 cache 上面了。
在这个环形空间中。假设沿着顺时针方向从对象的 key 值出发。直到遇见一个 cache ，那么就将该对象存储在这个 cache 上。由于对象和 cache 的 hash 值是固定的。因此这个 cache 必定是唯一和确定的。这样不就找到了对象和 cache 的映射方法了吗？！
依旧继续上面的样例（參见图 3 ），那么依据上面的方法，对象 object1 将被存储到 cache A 上； object2 和object3 相应到 cache C ； object4 相应到 cache B 。
八、 考察cache 的变动
前面讲过，通过 hash 然后求余的方法带来的最大问题就在于不能满足单调性，当 cache 有所变动时， cache会失效，进而对后台server造成巨大的冲击。如今就来分析分析 consistent hashing 算法。
九、移除 cache
考虑如果 cache B 挂掉了，依据上面讲到的映射方法，这时受影响的将仅是那些沿 cache B 逆时针遍历直到下一个 cache （ cache C ）之间的对象，也即是本来映射到 cache B 上的那些对象。
因此这里仅须要变动对象 object4 ，将其又一次映射到 cache C 上就可以；參见图 4 。
图 4 Cache B 被移除后的 cache 映射
十、加入 cache
再考虑加入一台新的 cache D 的情况，如果在这个环形 hash 空间中。 cache D 被映射在对象 object2 和object3 之间。这时受影响的将仅是那些沿 cache D 逆时针遍历直到下一个 cache （ cache B ）之间的对象（它们是也本来映射到 cache C 上对象的一部分），将这些对象又一次映射到 cache
D 上就可以。
因此这里仅须要变动对象 object2 ，将其又一次映射到 cache D 上；參见图 5 。
图 5 加入 cache D 后的映射关系
十一、虚拟节点
考量 Hash 算法的还有一个指标是平衡性 (Balance) ，定义例如以下：
平衡性
平衡性是指哈希的结果可以尽可能分布到全部的缓冲中去，这样可以使得全部的缓冲空间都得到利用。
hash 算法并非保证绝对的平衡，假设 cache 较少的话，对象并不能被均匀的映射到 cache 上，比方在上面的样例中，仅部署 cache A 和 cache C 的情况下，在 4 个对象中。 cache A 仅存储了 object1 。而 cache C 则存储了object2 、 object3 和 object4 ；分布是非常不均衡的。
为了解决这样的情况。 consistent hashing 引入了“虚拟节点”的概念。它能够例如以下定义：
“虚拟节点”（ virtual node ）是实际节点在 hash 空间的复制品（ replica ），一实际个节点相应了若干个“虚拟节点”，这个相应个数也成为“复制个数”，“虚拟节点”在 hash 空间中以 hash 值排列。
仍以仅部署 cache A 和 cache C 的情况为例，在图 4 中我们已经看到， cache 分布并不均匀。如今我们引入虚拟节点。并设置“复制个数”为 2 ，这就意味着一共会存在 4 个“虚拟节点”， cache A1, cache A2 代表了cache A ； cache C1, cache
C2 代表了 cache C ；如果一种比較理想的情况，參见图 6 。
图 6 引入“虚拟节点”后的映射关系
此时，对象到“虚拟节点”的映射关系为：
objec1->cache A2 ； objec2->cache A1 ； objec3->cache C1 ； objec4->cache C2 。
因此对象 object1 和 object2 都被映射到了 cache A 上，而 object3 和 object4 映射到了 cache C 上；平衡性有了非常大提高。
引入“虚拟节点”后。映射关系就从 { 对象 -> 节点 } 转换到了 { 对象 -> 虚拟节点 } 。查询物体所在 cache 时的映射关系如图 7 所看到的。
图 7 查询对象所在 cache
“虚拟节点”的 hash 计算能够採用相应节点的 IP 地址加数字后缀的方式。
比如如果 cache A 的 IP 地址为202.168.14.241 。
引入“虚拟节点”前，计算 cache A 的 hash 值：
Hash(“202.168.14.241”);
引入“虚拟节点”后，计算“虚拟节”点 cache A1 和 cache A2 的 hash 值：
Hash(“202.168.14.241#1”); // cache A1
Hash(“202.168.14.241#2”); // cache A2
引用了这位大神的小结
Consistent hashing 的基本原理就是这些。详细的分布性等理论分析应该是非常复杂的，只是一般也用不到。
http://weblogs.java.net/blog/2007/11/27/consistent-hashing 上面有一个 java 版本号的样例，能够參考。
http://blog.csdn.net/mayongzhan/archive/2009/06/25/4298834.aspx 转载了一个 PHP 版的实现代码。
http://www.codeproject.com/KB/recipes/lib-conhash.aspx C语言版本号
先上代码吧。等下说一下一致性哈希中的一些问题
1、未重构的代码
import java.util.Collection;
import java.util.SortedMap;
import java.util.TreeMap; public class ConsistentHash<T> { private final HashFunction hashFunction;
private final int numberOfReplicas;
private final SortedMap<Integer, T> circle = new TreeMap<Integer, T>(); public ConsistentHash(HashFunction hashFunction, int numberOfReplicas,
Collection<T> nodes) {
this.hashFunction = hashFunction;
this.numberOfReplicas = numberOfReplicas; for (T node : nodes) {
add(node);
}
} public void add(T node) {
for (int i = 0; i < numberOfReplicas; i++) {
circle.put(hashFunction.hash(node.toString() + i), node);
}
} public void remove(T node) {
for (int i = 0; i < numberOfReplicas; i++) {
circle.remove(hashFunction.hash(node.toString() + i));
}
} public T get(Object key) {
if (circle.isEmpty()) {
return null;
}
int hash = hashFunction.hash(key);
if (!circle.containsKey(hash)) {
SortedMap<Integer, T> tailMap = circle.tailMap(hash);
hash = tailMap.isEmpty() ? circle.firstKey() : tailMap.firstKey();
}
return circle.get(hash);
} }
2、重构后的代码，将哈希算法跟虚拟节点的方法给抽取出来，模版方法设计模式
2.1 AbstractConsistentHash
package cn.yting.conhash; import java.util.Collection;
import java.util.SortedMap;
import java.util.TreeMap; /**
* 将Hash算法跟虚拟节点的虚拟方式给抽出来。模版方法设计模式
*
* @Author 妳那伊抹微笑
*
*/
public abstract class AbstractConsistentHash { /**
* 复制节点，添加每一个节点的复制节点有利于负载均衡
*/
protected int numberOfReplicas = 8; /**
* 一致性哈希
*/
protected SortedMap<Long, String> circle = new TreeMap<Long, String>(); /**
* 自己定义一致性哈希算法
*/
protected abstract long defineHash(String key); /**
* 自己定义circle key
*/
protected abstract String defineCircleKey(String node, int i); public AbstractConsistentHash() {
} public AbstractConsistentHash(int numberOfReplicas, Collection<String> nodes) {
this.numberOfReplicas = numberOfReplicas; for (String node : nodes) {
addNode(node);
}
} /**
* 加入节点
*/
public void addNode(String node) {
for (int i = 0; i < this.numberOfReplicas; i++) {
/*
* 计算key的哈希算法
*/
long key = defineHash(defineCircleKey(node, i)); circle.put(key, node);
}
} /**
* 删除节点
*/
public void removeNode(String node) {
for (int i = 0; i < this.numberOfReplicas; i++) {
/*
* 计算key的哈希算法
*/
long key = defineHash(defineCircleKey(node, i)); circle.remove(key);
}
} /**
* 查找节点,取得顺时针方向上近期的一个虚拟节点相应的实际节点
*/
public String getNode(String node) {
if (circle.isEmpty()) {
return null;
} /*
* 计算key的哈希算法
*/
long key = defineHash(node); if (!circle.containsKey(key)) {
SortedMap<Long, String> tailMap = circle.tailMap(key);
key = tailMap.isEmpty() ? circle.firstKey() : tailMap.firstKey();
} return circle.get(key);
} }
2.2 hashCode 一致性哈希实现方式
package cn.yting.conhash; import java.util.Set; /**
* HashCode 一致性哈希。使用自带的hashCode计算hash值
*
* @Author 妳那伊抹微笑
*
*/
public class HashCodeConsistentHash extends AbstractConsistentHash { public HashCodeConsistentHash(int numberOfReplicas, Set<String> nodes) {
super(numberOfReplicas, nodes);
} @Override
protected long defineHash(String key) {
return key.hashCode();
} @Override
protected String defineCircleKey(String node, int i) {
if(i > 99){
return node + "-" + i;
}else if(i > 9){
return node + "-0" + i;
}else{
return node + "-00" + i;
}
} }
2.3 CRC32 一致性哈希实现方式
package cn.yting.conhash; import java.util.Set;
import java.util.zip.CRC32; /**
* HashCode 一致性哈希。使用CRC32算法计算hash值
*
* @Author 妳那伊抹微笑
*
*/
public class CRC32ConsistentHash extends AbstractConsistentHash { public CRC32ConsistentHash(int numberOfReplicas, Set<String> nodes) {
super(numberOfReplicas, nodes);
} @Override
protected long defineHash(String key) {
CRC32 hash = new CRC32();
hash.update(key.getBytes());
return (int)hash.getValue();
} @Override
protected String defineCircleKey(String node, int i) {
return (node+i);
} }
2.4 MD5 一致性哈希 实现方式
package cn.yting.conhash; import java.nio.charset.Charset;
import java.security.MessageDigest;
import java.util.Set; /**
* HashCode 一致性哈希，使用自MD5算法计算hash值
*
* @Author 妳那伊抹微笑
*
*/
public class MD5ConsistentHash extends AbstractConsistentHash{ public MD5ConsistentHash(int numberOfReplicas, Set<String> nodes) {
super(numberOfReplicas, nodes);
} @Override
protected String defineCircleKey(String node, int i) {
if(i > 99){
return node + "-" + i;
}else if(i > 9){
return node + "-0" + i;
}else{
return node + "-00" + i;
}
} @Override
protected long defineHash(String key) {
try {
MessageDigest md5 = MessageDigest.getInstance("MD5");
md5.update(key.getBytes(Charset.forName("UTF8")));
byte[] digest = md5.digest(); long hash = 0;
for (int i = 0; i < 4; i++) {
hash += ((long) (digest[i * 4 + 3] & 0xFF) << 24)
| ((long) (digest[i * 4 + 2] & 0xFF) << 16)
| ((long) (digest[i * 4 + 1] & 0xFF) << 8)
| ((long) (digest[i * 4 + 0] & 0xFF));
}
System.out.println(key+ "--->" + hash);
return hash;
} catch (Exception ex) {
return -1;
}
} }
# 完整案例（CRC32实现方式）这里是网Redis集群中写入数据。HashMap类型的数据
package cn.yting.conhash; import java.io.BufferedReader;
import java.io.InputStreamReader;
import java.util.HashMap;
import java.util.LinkedHashMap;
import java.util.Map; import org.apache.commons.logging.Log;
import org.apache.commons.logging.LogFactory; import redis.clients.jedis.Jedis;
import redis.clients.jedis.JedisPool;
import redis.clients.jedis.JedisPoolConfig; /**
* 一致性哈希Utils, 实现了redis中hash的一般操作
*
* @Author 妳那伊抹微笑
*
*/
public class ConsistentHashRedisUtils {
<span style="white-space:pre"> </span>
<span style="white-space:pre"> </span>/**
<span style="white-space:pre"> </span> * redis server properties 配置文件的路径
<span style="white-space:pre"> </span> */
<span style="white-space:pre"> </span>private static final String REDIS_SERVERS_HANGZHOU_PROPERTIES = "../../conf/analysis-redis-servers-hangzhou.properties"; <span style="white-space:pre"> </span>/**
<span style="white-space:pre"> </span> * 日志对象
<span style="white-space:pre"> </span> */
<span style="white-space:pre"> </span>private Log log = LogFactory.getLog(this.getClass());
<span style="white-space:pre"> </span>
<span style="white-space:pre"> </span>/**
<span style="white-space:pre"> </span> * 一致性哈希
<span style="white-space:pre"> </span> */
<span style="white-space:pre"> </span>private AbstractConsistentHash hash;
<span style="white-space:pre"> </span>
<span style="white-space:pre"> </span>/**
<span style="white-space:pre"> </span> * Redis连接池
<span style="white-space:pre"> </span> */
<span style="white-space:pre"> </span>private Map<String, JedisPool> jedisPools = new HashMap<String, JedisPool>();;
<span style="white-space:pre"> </span>
<span style="white-space:pre"> </span>/**
<span style="white-space:pre"> </span> * 外网地址到内网地IP映射
<span style="white-space:pre"> </span> */
<span style="white-space:pre"> </span>private Map<String, String> redisNodeMaps = new LinkedHashMap<String, String>();
<span style="white-space:pre"> </span>
<span style="white-space:pre"> </span>/**
<span style="white-space:pre"> </span> * 是否转换到内网地址创建jedis对象
<span style="white-space:pre"> </span> */
<span style="white-space:pre"> </span>private boolean isConvertIp = false;
<span style="white-space:pre"> </span>
<span style="white-space:pre"> </span>/**
<span style="white-space:pre"> </span> * 虚拟节点个数
<span style="white-space:pre"> </span> */
<span style="white-space:pre"> </span>private static int numberOfReplicas = 8; <span style="white-space:pre"> </span>public ConsistentHashRedisUtils() {
<span style="white-space:pre"> </span>this(numberOfReplicas);
<span style="white-space:pre"> </span>}
<span style="white-space:pre"> </span>
<span style="white-space:pre"> </span>public ConsistentHashRedisUtils(int numberOfReplicas) {
<span style="white-space:pre"> </span>redisNodeMaps = getRedisConfNodeMaps();
<span style="white-space:pre"> </span>hash = new CRC32ConsistentHash(numberOfReplicas, redisNodeMaps.keySet());
<span style="white-space:pre"> </span>} <span style="white-space:pre"> </span>/**
<span style="white-space:pre"> </span> * hset
<span style="white-space:pre"> </span> *
<span style="white-space:pre"> </span> * @param key
<span style="white-space:pre"> </span> * @param field
<span style="white-space:pre"> </span> * @param value
<span style="white-space:pre"> </span> */
<span style="white-space:pre"> </span>public void hset(String key, String field, String value) {
<span style="white-space:pre"> </span>JedisPool pool = null;
<span style="white-space:pre"> </span>Jedis jedis = null; <span style="white-space:pre"> </span>try {
<span style="white-space:pre"> </span>pool = getJedisPool(key);
<span style="white-space:pre"> </span>jedis = pool.getResource();
<span style="white-space:pre"> </span>jedis.hset(key, field, value);
<span style="white-space:pre"> </span>} catch (Exception e) {
<span style="white-space:pre"> </span>log.error("Redis hset exception : " + key, e);
<span style="white-space:pre"> </span>pool.returnBrokenResource(jedis);
<span style="white-space:pre"> </span>} finally {
<span style="white-space:pre"> </span>pool.returnResource(jedis);
<span style="white-space:pre"> </span>}
<span style="white-space:pre"> </span>}
<span style="white-space:pre"> </span>
<span style="white-space:pre"> </span>/**
<span style="white-space:pre"> </span> * hincrBy
<span style="white-space:pre"> </span> *
<span style="white-space:pre"> </span> * @param key
<span style="white-space:pre"> </span> * @param field
<span style="white-space:pre"> </span> * @param value
<span style="white-space:pre"> </span> */
<span style="white-space:pre"> </span>public void hincrBy(String key, String field, long value) {
<span style="white-space:pre"> </span>JedisPool pool = null;
<span style="white-space:pre"> </span>Jedis jedis = null; <span style="white-space:pre"> </span>try {
<span style="white-space:pre"> </span>pool = getJedisPool(key);
<span style="white-space:pre"> </span>jedis = pool.getResource();
<span style="white-space:pre"> </span>jedis.hincrBy(key, field, value);
<span style="white-space:pre"> </span>} catch (Exception e) {
<span style="white-space:pre"> </span>log.error("Redis hincrBy exception : " + key, e);
<span style="white-space:pre"> </span>pool.returnBrokenResource(jedis);
<span style="white-space:pre"> </span>} finally {
<span style="white-space:pre"> </span>pool.returnResource(jedis);
<span style="white-space:pre"> </span>}
<span style="white-space:pre"> </span>} <span style="white-space:pre"> </span>/**
<span style="white-space:pre"> </span> * hget
<span style="white-space:pre"> </span> *
<span style="white-space:pre"> </span> * @param key
<span style="white-space:pre"> </span> * @param field
<span style="white-space:pre"> </span> * @return
<span style="white-space:pre"> </span> */
<span style="white-space:pre"> </span>public String hget(String key, String field) {
<span style="white-space:pre"> </span>JedisPool pool = null;
<span style="white-space:pre"> </span>Jedis jedis = null;
<span style="white-space:pre"> </span>String result = null;
<span style="white-space:pre"> </span>
<span style="white-space:pre"> </span>try {
<span style="white-space:pre"> </span>pool = getJedisPool(key);
<span style="white-space:pre"> </span>jedis = pool.getResource();
<span style="white-space:pre"> </span>result = jedis.hget(key, field);
<span style="white-space:pre"> </span>} catch (Exception e) {
<span style="white-space:pre"> </span>log.error("Redis hget exception : " + key, e);
<span style="white-space:pre"> </span>pool.returnBrokenResource(jedis);
<span style="white-space:pre"> </span>} finally {
<span style="white-space:pre"> </span>pool.returnResource(jedis);
<span style="white-space:pre"> </span>}
<span style="white-space:pre"> </span>return result;
<span style="white-space:pre"> </span>}
<span style="white-space:pre"> </span>
<span style="white-space:pre"> </span>/**
<span style="white-space:pre"> </span> * hgetAll
<span style="white-space:pre"> </span> *
<span style="white-space:pre"> </span> * @param key
<span style="white-space:pre"> </span> * @return map
<span style="white-space:pre"> </span> */
<span style="white-space:pre"> </span>public Map<String, String> hgetAll(String key) {
<span style="white-space:pre"> </span>JedisPool pool = null;
<span style="white-space:pre"> </span>Jedis jedis = null;
<span style="white-space:pre"> </span>Map<String, String> result = null;
<span style="white-space:pre"> </span>
<span style="white-space:pre"> </span>try {
<span style="white-space:pre"> </span>pool = getJedisPool(key);
<span style="white-space:pre"> </span>jedis = pool.getResource();
<span style="white-space:pre"> </span>result = jedis.hgetAll(key);
<span style="white-space:pre"> </span>} catch (Exception e) {
<span style="white-space:pre"> </span>log.error("Redis hgetAll exception : " + key, e);
<span style="white-space:pre"> </span>pool.returnBrokenResource(jedis);
<span style="white-space:pre"> </span>} finally {
<span style="white-space:pre"> </span>pool.returnResource(jedis);
<span style="white-space:pre"> </span>}
<span style="white-space:pre"> </span>return result;
<span style="white-space:pre"> </span>}
<span style="white-space:pre"> </span>
<span style="white-space:pre"> </span>/**
<span style="white-space:pre"> </span> * hdel
<span style="white-space:pre"> </span> *
<span style="white-space:pre"> </span> * @param key
<span style="white-space:pre"> </span> * @param field
<span style="white-space:pre"> </span> */
<span style="white-space:pre"> </span>public void hdel(String key, String field) {
<span style="white-space:pre"> </span>JedisPool pool = null;
<span style="white-space:pre"> </span>Jedis jedis = null;
<span style="white-space:pre"> </span>try {
<span style="white-space:pre"> </span>pool = getJedisPool(key);
<span style="white-space:pre"> </span>jedis = pool.getResource();
<span style="white-space:pre"> </span>jedis.hdel(key, field);
<span style="white-space:pre"> </span>} catch (Exception e) {
<span style="white-space:pre"> </span>log.error("Redis hdel exception : " + key, e);
<span style="white-space:pre"> </span>pool.returnBrokenResource(jedis);
<span style="white-space:pre"> </span>} finally {
<span style="white-space:pre"> </span>pool.returnResource(jedis);
<span style="white-space:pre"> </span>}
<span style="white-space:pre"> </span>} <span style="white-space:pre"> </span>/**
<span style="white-space:pre"> </span> * 通过userid获取相应的jedis连接
<span style="white-space:pre"> </span> *
<span style="white-space:pre"> </span> * @param userid
<span style="white-space:pre"> </span> * @return
<span style="white-space:pre"> </span> * @throws Exception
<span style="white-space:pre"> </span> */
<span style="white-space:pre"> </span>private JedisPool getJedisPool(String userid) throws Exception {
<span style="white-space:pre"> </span>String key = this.hash.getNode(userid);
<span style="white-space:pre"> </span>JedisPool pool = this.jedisPools.get(key); <span style="white-space:pre"> </span>if (pool == null) {
<span style="white-space:pre"> </span>String outKey = key;
<span style="white-space:pre"> </span>/*
<span style="white-space:pre"> </span> * 将外网ip转换内网ip
<span style="white-space:pre"> </span> */
<span style="white-space:pre"> </span>if (this.isConvertIp) {
<span style="white-space:pre"> </span>key = this.redisNodeMaps.get(key);
<span style="white-space:pre"> </span>if (key == null) {
<span style="white-space:pre"> </span>throw new Exception("not " + key + " in redisNodeMaps");
<span style="white-space:pre"> </span>}
<span style="white-space:pre"> </span>}
<span style="white-space:pre"> </span>String[] host_port = key.split(":");
<span style="white-space:pre"> </span>pool = getJedisPool(host_port);
<span style="white-space:pre"> </span>log.info("-------------------->Redis ip--->port : " + host_port[0] + "--->" + host_port[1]); <span style="white-space:pre"> </span>this.jedisPools.put(outKey, pool);
<span style="white-space:pre"> </span>}
<span style="white-space:pre"> </span>return pool;
<span style="white-space:pre"> </span>} <span style="white-space:pre"> </span>/**
<span style="white-space:pre"> </span> * 获得redis的连接池
<span style="white-space:pre"> </span> *
<span style="white-space:pre"> </span> * @param host_port
<span style="white-space:pre"> </span> * @return
<span style="white-space:pre"> </span> */
<span style="white-space:pre"> </span>private JedisPool getJedisPool(String[] host_port) {
<span style="white-space:pre"> </span>JedisPoolConfig config = new JedisPoolConfig();
<span style="white-space:pre"> </span>config.setMaxActive(500);
<span style="white-space:pre"> </span>config.setMaxIdle(10);
<span style="white-space:pre"> </span>config.setMaxWait(3000000);
<span style="white-space:pre"> </span>config.setTestOnBorrow(true);
<span style="white-space:pre"> </span>config.setTestOnReturn(true);
<span style="white-space:pre"> </span>return new JedisPool(config, host_port[0], Integer.parseInt(host_port[1]));
<span style="white-space:pre"> </span>} <span style="white-space:pre"> </span>/**
<span style="white-space:pre"> </span> * 关闭全部redis链接
<span style="white-space:pre"> </span> */
<span style="white-space:pre"> </span>public void closeAllConnection() throws Exception {
<span style="white-space:pre"> </span>for (String key : this.jedisPools.keySet()) {
<span style="white-space:pre"> </span>JedisPool pool = this.jedisPools.get(key);
<span style="white-space:pre"> </span>
<span style="white-space:pre"> </span>if (pool != null) {
<span style="white-space:pre"> </span>pool.destroy();
<span style="white-space:pre"> </span>}
<span style="white-space:pre"> </span>}
<span style="white-space:pre"> </span>}
<span style="white-space:pre"> </span>
<span style="white-space:pre"> </span>/**
<span style="white-space:pre"> </span> * 从配置文件里获取Redis集群的IP
<span style="white-space:pre"> </span> *
<span style="white-space:pre"> </span> * @return
<span style="white-space:pre"> </span> */
<span style="white-space:pre"> </span>private Map<String, String> getRedisConfNodeMaps(){
<span style="white-space:pre"> </span> Map<String, String> rmaps = null;
<span style="white-space:pre"> </span> String line = null;
<span style="white-space:pre"> </span> try {
<span style="white-space:pre"> </span>BufferedReader reader = new BufferedReader(new InputStreamReader(this.getClass().getResourceAsStream(REDIS_SERVERS_HANGZHOU_PROPERTIES)));
<span style="white-space:pre"> </span>rmaps = new LinkedHashMap<String, String>();
<span style="white-space:pre"> </span>String[] splits = null;
<span style="white-space:pre"> </span>String outIp = null;
<span style="white-space:pre"> </span>String inIp = null;
<span style="white-space:pre"> </span>while((line=reader.readLine())!=null){
<span style="white-space:pre"> </span>if(line.trim().length() <5 || line.trim().startsWith("#")) continue;
<span style="white-space:pre"> </span>log.info("redis server : " + line);
<span style="white-space:pre"> </span>splits = line.split(" +|\t+");
<span style="white-space:pre"> </span>outIp = splits[0];
<span style="white-space:pre"> </span>inIp = splits[1];
<span style="white-space:pre"> </span>rmaps.put(outIp, inIp);
<span style="white-space:pre"> </span>}
<span style="white-space:pre"> </span>log.info("ConsistentHashRedisUtils initialize configure ../../conf/analysis-redis-servers-hangzhou.properties is successful ...");
<span style="white-space:pre"> </span>} catch (Exception e) {
<span style="white-space:pre"> </span>log.error("ConsistentHashRedisUtils initialize error : " + line, e);
<span style="white-space:pre"> </span>}
<span style="white-space:pre"> </span>return rmaps;
<span style="white-space:pre"> </span>}
<span style="white-space:pre"> </span>
}
redis-servers.properties 參考的配置文件，这里是外网转内网的IP，读者能够自行改动一下、、、
# redis servers
20.20.20.234:6379 192.168.1.109:6379
20.20.20.234:6380 192.168.1.109:6380
20.20.20.234:6381 192.168.1.109:6381 20.20.20.235:6379 192.168.1.110:6379
20.20.20.235:6380 192.168.1.110:6380
20.20.20.235:6381 192.168.1.110:6381 20.20.20.236:6379 192.168.1.111:6379
20.20.20.236:6380 192.168.1.111:6380
20.20.20.236:6381 192.168.1.111:6381 20.20.20.237:6379 192.168.1.112:6379
20.20.20.237:6380 192.168.1.112:6380
20.20.20.237:6381 192.168.1.112:6381 20.20.20.238:6379 192.168.1.113:6379
20.20.20.238:6380 192.168.1.113:6380
20.20.20.238:6381 192.168.1.113:6381 20.20.20.239:6379 192.168.1.114:6379
20.20.20.239:6380 192.168.1.114:6380
20.20.20.239:6381 192.168.1.114:6381 20.20.20.243:6379 192.168.1.127:6379
20.20.20.243:6380 192.168.1.127:6380
20.20.20.243:6381 192.168.1.127:6381
20.20.20.243:6382 192.168.1.127:6382
20.20.20.243:6383 192.168.1.127:6383
20.20.20.243:6384 192.168.1.127:6384
20.20.20.243:6385 192.168.1.127:6385
20.20.20.243:6386 192.168.1.127:6386 20.20.20.244:6379 192.168.1.128:6379
20.20.20.244:6380 192.168.1.128:6380
20.20.20.244:6381 192.168.1.128:6381 20.20.20.245:6379 192.168.1.129:6379
20.20.20.245:6380 192.168.1.129:6380
20.20.20.245:6381 192.168.1.129:6381 20.20.20.246:6379 192.168.1.130:6379
20.20.20.246:6380 192.168.1.130:6380
20.20.20.246:6381 192.168.1.130:6381 20.20.20.247:6379 192.168.1.131:6379
20.20.20.247:6380 192.168.1.131:6380
20.20.20.247:6381 192.168.1.131:6381 20.20.20.248:6379 192.168.1.132:6379
20.20.20.248:6380 192.168.1.132:6380
20.20.20.248:6381 192.168.1.132:6381 20.20.20.249:6379 192.168.1.133:6379
20.20.20.249:6380 192.168.1.133:6380
20.20.20.249:6381 192.168.1.133:6381
到了这里也就告一段落了。如今来说下一開始的那几个问题吧！
1、降低节点
以上的代码还没有解决数据转移的问题，比方当中一台Redisserver挂掉了，应该将数据转移到该server顺时针近期的那一台活着的server上去，并且以后数据恢复。还须要自己写代码做数据校验。数据找回等等！
！
！
这也是一个麻烦的问题 、、、（至少数据不会丢失了，这点还是不错的，数据校验跟数据找回的代码写好后，也能够一劳永逸了，嘎嘎！）
2、添加节点
因为使用了虚拟节点的方式，上面的虚拟节点数量为8，如今新增一台Redisserver，也会虚拟出8台虚拟节点出来。这里原先如果的是有12台Redisserver，假如如今的这8台虚拟节点如果刚好分布到了其它8台虚拟节点之间。也就是意味着另外8台Redis中差点儿相同每台Rdisserver都会有八分之中的一个的数据会跑到如今新增的这台Redisserver上。这样也会造成数据混乱，这该怎样解决
、、、也就是新增节点之后还是破坏了原有的映射关系，当然知道了这种原理之后也是能够写代码数据校验跟找回的，又一次平衡server的数据，只是那也太麻烦点了。伤不起啊！假如这里虚拟节点的数据变大了，那以后添加节点是不是要做的工作就更大了，这 、、、
综上所述，一致性哈希这个理论尽管不错，可是想要完美的实现出来还是要点时间的，重点就是数据校验数据备份，没有人把这样完美的结果被发到网上，右，此 、、、、、、
版权声明：本文博客原创文章，博客，未经同意，不得转载。
_00013 一致性哈希算法 Consistent Hashing 新的讨论，并出现相应的解决的更多相关文章
- 一致性哈希算法(consistent hashing)（转）
原文链接:每天进步一点点——五分钟理解一致性哈希算法(consistent hashing) 一致性哈希算法在1997年由麻省理工学院提出的一种分布式哈希(DHT)实现算法,设计目标是为了解决因特网 ...
- （转）每天进步一点点——五分钟理解一致性哈希算法(consistent hashing)
背景:在redis集群中,有关于一致性哈希的使用. 一致性哈希:桶大小0~(2^32)-1 哈希指标:平衡性.单调性.分散性.负载性 为了提高平衡性,引入“虚拟节点” 每天进步一点点——五分钟理解一致 ...
- 一致性哈希算法(Consistent Hashing Algorithm)
一致性哈希算法(Consistent Hashing Algorithm) 浅谈一致性Hash原理及应用 在讲一致性Hash之前我们先来讨论一个问题. 问题:现在有亿级用户,每日产生千万级订单,如 ...
- 转 白话解析：一致性哈希算法 consistent hashing
摘要: 本文首先以一个经典的分布式缓存的应用场景为铺垫,在了解了这个应用场景之后,生动而又不失风趣地介绍了一致性哈希算法,同时也明确给出了一致性哈希算法的优点.存在的问题及其解决办法. 声明与致谢: ...
- 白话解析：一致性哈希算法 consistent hashing【转】
学习一致性哈希算法原理的时候看到博主朱双印的一片文章,看完就懂,大佬! 白话解析:一致性哈希算法 consistent hashing
- 一致性哈希算法(consistent hashing)PHP实现
一致性哈希算法在1997年由麻省理工学院提出的一种分布式哈希(DHT)实现算法,设计目标是为了解决因特网中的热点(Hot spot)问题,初衷和CARP十分类似.一致性哈希修正了CARP使用的简单哈希 ...
- 五分钟理解一致性哈希算法(consistent hashing)
转载请说明出处:http://blog.csdn.net/cywosp/article/details/23397179 一致性哈希算法在1997年由麻省理工学院提出的一种分布式哈希(DHT)实现算法 ...
- 每天进步一点点——五分钟理解一致性哈希算法(consistent hashing)
转载请说明出处:http://blog.csdn.net/cywosp/article/details/23397179 一致性哈希算法在1997年由麻省理工学院提出的一种分布式哈希(DHT) ...
- 一致性哈希算法(consistent hashing)【转】
一致性哈希算法 来自:http://blog.csdn.net/cywosp/article/details/23397179 一致性哈希算法在1997年由麻省理工学院提出的一种分布式哈希 ...
随机推荐
- C++经典笔试题及参考答案-趋势科技
1.static有什么用途?(请至少说明两种) 答案:1)在函数体,一个被声明为静态的变量在这一函数被调用过程中维持其值不变. 2)在模块内(但在函数体外),一个被声明为静态的变量可以被模块内所用函数 ...
- CS0433: 类型“BasePage”同一时候存在于“c:\Windows\Microsoft.NETxxxxxxxxxxxxxxxx
网上常见的我就不说了. 假设其他地址的方法解决不了你的问题,那么请往下看. 该类是否存放于 App_Code 下,假设是把该类从App_Code中拉出来,然后再次执行试试.
- Virtualbox mouse move in and out and file share with windows
How to use Virstalbox to share files with Linux and Windows, and to move the mouse in and out Virtua ...
- 不要打开文件，阅读Rvt信息档案
叶老师,想问一下是否能基于revit API 2014,直接在开发时传递给程序要处理的文件名称和路径.而不用再在revit软件中打开为当前活动视图,就直接获得文件里信息.这样可行不? 答: 能够.你能 ...
- POJ 2318 TOYS(计算几何)
跨产品的利用率推断点线段向左或向右,然后你可以2分钟 代码: #include <cstdio> #include <cstring> #include <algorit ...
- OCP读书笔记(2) - 配置恢复
RMAN的命令类型 1. sqlplus命令 [oracle@oracle admin]$ export ORACLE_SID=orcl [oracle@oracle admin]$ rman tar ...
- nRF Toolbox 1.2 使用AKII的实现，而Becon始终不好使
这几天调试使用nRF51822驱动mpu6050及其数据传输到android中,调试的过程遇到一些困难,apptimer不太会用,然后就參考了下ble_app_hrs的程序,结果成功搞定,demo的价 ...
- Oracle Client: TNS: Connect timeout ocurred.
1. 检查Oracle Server 的防火墙是否关闭. 2. Client, Server 重启.
- Android采用Application总结一下
什么是 Application Application和Activity,Service由于是android框架的一个系统组件,当android程序启动时系统会创建一个 application对象.用 ...
- 使用MYCAT作为Mysql HA的中间件（转）
记得在上一篇文章“Java集群--大型网站是怎样解决多用户高并发访问的”的结尾处本人阐述了数据库的高可用的一种方案----实现主从部署,那么今天,就让我聊聊本人关于数据库的一些所思所想吧! 下面是本人 ...