Java语言Consistent Hash算法学习笔记（代码示例）

本文研究的主要是consistenthashing算法代码。

一致性哈希(consistent hash)

协议简介

一致性哈希算法在1997年由麻省理工学院提出(参见0)，设计目标是为了解决因特网中的热点(hot pot)问题，初衷和carp十分类似。一致性哈希修正了carp使用的简单哈希算法带来的问题，使得dht可以在p2p环境中真正得到应用。

哈希算法

一致性哈希提出了在动态变化的cache环境中，哈希算法应该满足的4个适应条件：

平衡性(balance)

平衡性是指哈希的结果能够尽可能分布到所有的缓存中去，这样可以使得所有的缓存空间都得到利用。很多哈希算法都能够满足这一条件。

单调性(monotonicity)

单调性是指如果已经有一些内容通过哈希分派到了相应的缓存中，又有新的缓存加入到系统中。哈希的结果应能够保证原有已分配的内容可以被映射到新的缓存中去，而不会被映射到旧的缓存集合中的其他缓冲区。

简单的哈希算法往往不能满足单调性的要求，如最简单的线性哈希：

x → ax + b mod (p)

在上式中，p表示全部缓存的大小。不难看出，当缓存大小发生变化时(从p1到p2)，原来所有的哈希结果均会发生变化，从而不满足单调性的要求。

哈希结果的变化意味着当缓存空间发生变化时，所有的映射关系需要在系统内全部更新。而在p2p系统内，缓存的变化等价于peer加入或退出系统，这一情况在p2p系统中会频繁发生，因此会带来极大计算和传输负荷。单调性就是要求哈希算法能够避免这一情况的发生。

分散性(spread)

在分布式环境中，终端有可能看不到所有的缓存，而是只能看到其中的一部分。当终端希望通过哈希过程将内容映射到缓存上时，由于不同终端所见的缓存范围有可能不同，从而导致哈希的结果不一致，最终的结果是相同的内容被不同的终端映射到不同的缓存区中。这种情况显然是应该避免的，因为它导致相同内容被存储到不同缓冲中去，降低了系统存储的效率。分散性的定义就是上述情况发生的严重程度。好的哈希算法应能够尽量避免不一致的情况发生，也就是尽量降低分散性。

负载(load)

负载问题实际上是从另一个角度看待分散性问题。既然不同的终端可能将相同的内容映射到不同的缓冲区中，那么对于一个特定的缓冲区而言，也可能被不同的用户映射为不同的内容。与分散性一样，这种情况也是应当避免的，因此好的哈希算法应能够尽量降低缓冲的负荷。

从表面上看，一致性哈希针对的是分布式缓冲的问题，但是如果将缓冲看作p2p系统中的peer，将映射的内容看作各种共享的资源(数据，文件，媒体流等)，就会发现两者实际上是在描述同一问题。

路由算法

在一致性哈希算法中，每个节点(对应p2p系统中的peer)都有随机分配的id。在将内容映射到节点时，使用内容的关键字和节点的id进行一致性哈希运算并获得键值。一致性哈希要求键值和节点id处于同一值域。最简单的键值和id可以是一维的，比如从0000到9999的整数集合。

根据键值存储内容时，内容将被存储到具有与其键值最接近的id的节点上。例如键值为1001的内容，系统中有id为1000，1010，1100的节点，该内容将被映射到1000节点。

为了构建查询所需的路由，一致性哈希要求每个节点存储其上行节点(id值大于自身的节点中最小的)和下行节点(id值小于自身的节点中最大的)的位置信息(ip地址)。当节点需要查找内容时，就可以根据内容的键值决定向上行或下行节点发起查询请求。收到查询请求的节点如果发现自己拥有被请求的目标，可以直接向发起查询请求的节点返回确认;如果发现不属于自身的范围，可以转发请求到自己的上行/下行节点。

为了维护上述路由信息，在节点加入/退出系统时，相邻的节点必须及时更新路由信息。这就要求节点不仅存储直接相连的下行节点位置信息，还要知道一定深度(n跳)的间接下行节点信息，并且动态地维护节点列表。当节点退出系统时，它的上行节点将尝试直接连接到最近的下行节点，连接成功后，从新的下行节点获得下行节点列表并更新自身的节点列表。同样的，当新的节点加入到系统中时，首先根据自身的id找到下行节点并获得下行节点列表，然后要求上行节点修改其下行节点列表，这样就恢复了路由关系。

讨论

一致性哈希基本解决了在p2p环境中最为关键的问题——如何在动态的网络拓扑中分布存储和路由。每个节点仅需维护少量相邻节点的信息，并且在节点加入/退出系统时，仅有相关的少量节点参与到拓扑的维护中。所有这一切使得一致性哈希成为第一个实用的dht算法。

但是一致性哈希的路由算法尚有不足之处。在查询过程中，查询消息要经过o(n)步(o(n)表示与n成正比关系，n代表系统内的节点总数)才能到达被查询的节点。不难想象，当系统规模非常大时，节点数量可能超过百万，这样的查询效率显然难以满足使用的需要。换个角度来看，即使用户能够忍受漫长的时延，查询过程中产生的大量消息也会给网络带来不必要的负荷。

源代码：

package heritrix;
import java.util.collection;
import java.util.sortedmap;
import java.util.treemap;
public class consistenthash<t> {
	//哈希算法
	private final hashfunction hashfunction;
	//虚拟节点数目
	private final int numberofreplicas;
	private final sortedmap<integer, t> circle = new treemap<integer, t>();
	public consistenthash(hashfunction hashfunction, int numberofreplicas, collection<t> nodes){
		this.hashfunction = hashfunction;
		this.numberofreplicas = numberofreplicas;
		for (t node : nodes){
			add(node);
		}
	}
	public void add(t node){
		for (int i = 0; i < numberofreplicas; i++){
			circle.put(hashfunction.hash(node.tostring() + i), node);
		}
	}
	public void remove(t node){
		for (int i = 0; i < numberofreplicas; i++){
			circle.remove(hashfunction.hash(node.tostring() + i));
		}
	}
	//关键算法
	public t get(object key){
		if(circle.isempty()){
			return null;
		}
		//计算hash值
		int hash = hashfunction.hash(key);
		//如果不包括这个hash值
		if(!circle.containskey(hash)){
			sortedmap<integer, t> tailmap = circle.tailmap(hash);
			hash = tailmap.isempty() ? circle.firstkey() : tailmap.firstkey();
		}
		return circle.get(hash);
	}
}

总结

以上就是本文关于java语言consistent hash算法学习笔记（代码示例）的全部内容，希望对大家有所帮助。感兴趣的朋友可以继续参阅本站其他相关专题，如有不足之处，欢迎留言指出。感谢朋友们对本站的支持！