C# Dictionary源码剖析---哈希处理冲突的方法有:开放定址法、再哈希法、链地址法、建立一个公共溢出区等
C# Dictionary源码剖析
参考:https://blog.csdn.net/exiaojiu/article/details/51252515
http://www.cnblogs.com/wangjun1234/p/3719635.html
源代码版本为 .NET Framework 4.6.1
Dictionary是Hashtable的一种泛型实现(也是一种哈希表)实现了IDictionary泛型接口和非泛型接口等,将键映射到相应的值。任何非 null 对象都可以用作键。使用与Hashtable不同的冲突解决方法,Dictionary使用拉链法。
概念重播
对于不同的关键字可能得到同一哈希地址,即key1 != key2 => F(key1)=F(fey2),这种现象叫做冲突,在一般情况下,冲突只能尽可能的少,而不能完全避免。因为,哈希函数是从关键字集合到地址集合的映像。通常,关键字集合比较大,它的元素包括很多有可能的关键字。既然如此,那么,如何处理冲突则是构造哈希表不可缺少的一个方面。
通常用于处理冲突的方法有:开放定址法、再哈希法、链地址法、建立一个公共溢出区等。
在哈希表上进行查找的过程和哈希造表的过程基本一致。给定K值,根据造表时设定的哈希函数求得哈希地址,若表中此位置没有记录,则查找不成功;否则比较关键字,若和给定值相等,则查找成功;否则根据处理冲突的方法寻找“下一地址”,只到哈希表中某个位置为空或者表中所填记录的关键字等于给定值时为止。
哈希函数
Dictionary使用的哈希函数是除留余数法,在源码中的公式为:
h = F(k) % m; m 为哈希表长度(这个长度一般为素数)
(内部有一个素数数组:3,7,11,17....如图:
);
通过给定或默认的GetHashCode()函数计算出关键字的哈希码模以哈希表长度,计算出哈希地址。
拉链法
Dictionary使用的解决冲突方法是拉链法,又称链地址法。
拉链法的原理:将所有关键字为同义词的结点链接在同一个单链表中。若选定的散列表长度为m,则可将散列表定义为一个由m个头指针组成的指针数 组T[0..m-1]。凡是散列地址为i的结点,均插入到以T[i]为头指针的单链表中。T中各分量的初值均应为空指针。结构图大致如下:
特别强调:拉链法只是使用链表的原理去解决冲突,并不是真的有一个链表存在。
基本成员

 1         private struct Entry {
 2             public int hashCode;    //31位散列值,32最高位表示符号位,-1表示未使用
 3             public int next;        //下一项的索引值,-1表示结尾
 4             public TKey key;        //键
 5             public TValue value;    //值
 6         }
 7
 8         private int[] buckets;//内部维护的数据地址
 9         private Entry[] entries;//元素数组,用于维护哈希表中的数据
10         private int count;//元素数量
11         private int version;
12         private int freeList;//空闲的列表
13         private int freeCount;//空闲列表元素数量
14         private IEqualityComparer<TKey> comparer;//哈希表中的比较函数
15         private KeyCollection keys;//键集合
16         private ValueCollection values;//值集合
17         private Object _syncRoot;

buckets 就想在哈希函数与entries之间解耦的一层关系,哈希函数的F(k)变化不在直接影响到entries。 
freeList 类似一个单链表,用于存储被释放出来的空间即空链表,一般有被优先存入数据。 
freeCount 空链表的空位数量。
初始化函数 
该函数用于,初始化的数据构造

1     private void Initialize(int capacity) {
2             //根据构造函数设定的初始容量,获取一个近似的素数
3             int size = HashHelpers.GetPrime(capacity);
4             buckets = new int[size];
5             for (int i = 0; i < buckets.Length; i++) buckets[i] = -1;
6             entries = new Entry[size];
7             freeList = -1;
8         }

初始化Dictionary内部数组容器:buckets int[]和entries<T,V>[],分别分配长度3。
(内部有一个素数数组:3,7,11,17....如图:
);
size 哈希表的长度是素数,可以使元素更均匀地分布在每个节点上。 
buckets 中的节点值,-1表示空值。 
freeList 为-1表示没有空链表。 
buckets 和 freeList 所值指向的数据其实全是存储于一块连续的内存空间(entries )之中。
插入元素

 1  public void Add(TKey key, TValue value) {
 2             Insert(key, value, true);
 3         }
 4         private void Insert(TKey key, TValue value, bool add){
 5             if( key == null ) {
 6                 ThrowHelper.ThrowArgumentNullException(ExceptionArgument.key);
 7             }
 8
 9             if (buckets == null) Initialize(0);
10             int hashCode = comparer.GetHashCode(key) & 0x7FFFFFFF;
11             int targetBucket = hashCode % buckets.Length;
12
13             //循环冲突
14             for (int i = buckets[targetBucket]; i >= 0; i = entries[i].next) {
15                 if (entries[i].hashCode == hashCode && comparer.Equals(entries[i].key, key)) {
16                     if (add) {
17                         ThrowHelper.ThrowArgumentException(ExceptionResource.Argument_AddingDuplicate);
18                     }
19                     entries[i].value = value;
20                     version++;
21                     return;
22                 }
23
24                 collisionCount++;
25             }
26
27             //添加元素
28             int index;
29             //是否有空列表
30             if (freeCount > 0) {
31                 index = freeList;
32                 freeList = entries[index].next;
33                 freeCount--;
34             }
35             else {
36                 if (count == entries.Length)
37                 {
38                     Resize();//自动扩容
39                     targetBucket = hashCode % buckets.Length;//哈希函数寻址
40                 }
41                 index = count;
42                 count++;
43             }
44
45             entries[index].hashCode = hashCode;
46             entries[index].next = buckets[targetBucket];
47             entries[index].key = key;
48             entries[index].value = value;
49             buckets[targetBucket] = index;
50
51             //单链接的节点数(冲突数)达到了一定的阈值,之后更新散列值
52             if(collisionCount > HashHelpers.HashCollisionThreshold && HashHelpers.IsWellKnownEqualityComparer(comparer))
53             {
54                 comparer = (IEqualityComparer<TKey>) HashHelpers.GetRandomizedEqualityComparer(comparer);
55                 Resize(entries.Length, true);
56             }
57         }

 
思路分析: 
(1)通过哈希函数寻址,计算出哈希地址(因为中间有一个解耦关系buckets,所以不再直接指向entries的索引值,而是buckets的索引)。 
(2)判断buckets中映射到的值是否为-1(即为空位)。若不为-1,表示有冲突,遍历冲突链,不允许重复的键。 
(3)判断是否有空链表,有则插入空链表的当前位置,将freeList指针后移,freeCount减一,否则将元素插入当前空位。在这一步,容量不足将自动扩容,若当前位置已经存在元素则将该元素的地址存在插入元素的next中,形成一个单链表的形式。类似下图中的索引0。 
移除

 1  public bool Remove(TKey key) {
 2             if(key == null) {
 3                 ThrowHelper.ThrowArgumentNullException(ExceptionArgument.key);
 4             }
 5
 6             if (buckets != null) {
 7                 int hashCode = comparer.GetHashCode(key) & 0x7FFFFFFF;
 8                 int bucket = hashCode % buckets.Length;
 9                 int last = -1;//记录上一个节点
10                 //定位到一个单链表,每一个节点都会保存下一个节点的地址,操作不再重新计算哈希地址
11                 for (int i = buckets[bucket]; i >= 0; last = i, i = entries[i].next) {
12                     if (entries[i].hashCode == hashCode && comparer.Equals(entries[i].key, key)) {
13                         if (last < 0) {
14                             buckets[bucket] = entries[i].next;
15                         }
16                         else {
17                             entries[last].next = entries[i].next;
18                         }
19                         entries[i].hashCode = -1;//移除的元素散列值值为-1
20                         entries[i].next = freeList;//将移除的元素放入空列表
21                         entries[i].key = default(TKey);
22                         entries[i].value = default(TValue);
23                         freeList = i;//记录当前地址,以便下个元素能直接插入
24                         freeCount++;//空链表节点数+1
25                         version++;
26                         return true;
27                     }
28                 }
29             }
30             return false;
31         }

Dictionary中存储元素的结构非常有趣,通过一个数据桶buckets将哈希函数与数据数组进行了解耦,使得每一个buckets的值对应的都是一条单链表,在内存空间上却是连续的存储块。同时Dictionary在空间与性能之间做了一些取舍,消耗了空间,提升了性能(影响性能的最大因素是哈希函数)。 
移除思路分析: 
(1)通过哈希函数确定单链表的位置,然后进行遍历。 
(2)该索引对应的值为-1,表示没有没有单链接节点,返回false,结束 
(3)该索引对应的值大于-1,表示有单链表节点,进行遍历,对比散列值与key,将映射到的entries节点散列值赋-1,next指向空链表的第一个元素地址(-1为头节点),freeList指向头节点地址,空链表节点数+1,返回true,结束;否则返回false,结束。(此处的节点地址统指索引值)。
查询

 1  public bool TryGetValue(TKey key, out TValue value) {
 2             int i = FindEntry(key);//关键方法
 3             if (i >= 0) {
 4                 value = entries[i].value;
 5                 return true;
 6             }
 7             value = default(TValue);
 8             return false;
 9         }
10
11
12         private int FindEntry(TKey key) {
13             if( key == null) {
14                 ThrowHelper.ThrowArgumentNullException(ExceptionArgument.key);
15             }
16
17             if (buckets != null) {
18                 int hashCode = comparer.GetHashCode(key) & 0x7FFFFFFF;
19                 for (int i = buckets[hashCode % buckets.Length]; i >= 0; i = entries[i].next) {
20                     if (entries[i].hashCode == hashCode && comparer.Equals(entries[i].key, key)) return i;
21                 }
22             }
23             return -1;
24         }

代码是不是一目了然,在FindEntry方法中,定位单链接的位置,进行遍历,对比散列值与key,比较成功则返回true,结束。
扩容

 1   private void Resize() {
 2             Resize(HashHelpers.ExpandPrime(count), false);
 3         }
 4
 5         private void Resize(int newSize, bool forceNewHashCodes) {
 6             Contract.Assert(newSize >= entries.Length);
 7
 8             //重新初始化一个比原来空间还要大2倍左右的buckets和Entries,用于接收原来的buckets和Entries的数据
 9             int[] newBuckets = new int[newSize];
10             for (int i = 0; i < newBuckets.Length; i++) newBuckets[i] = -1;
11             Entry[] newEntries = new Entry[newSize];
12
13             //数据搬家
14             Array.Copy(entries, 0, newEntries, 0, count);
15
16             //将散列值刷新,这是在某一个单链表节点数到达一个阈值(100)时触发
17             if(forceNewHashCodes) {
18                 for (int i = 0; i < count; i++) {
19                     if(newEntries[i].hashCode != -1) {
20                         newEntries[i].hashCode = (comparer.GetHashCode(newEntries[i].key) & 0x7FFFFFFF);
21                     }
22                 }
23             }
24
25             //单链表数据对齐,无关顺序
26             for (int i = 0; i < count; i++) {
27                 if (newEntries[i].hashCode >= 0) {
28                     int bucket = newEntries[i].hashCode % newSize;
29                     newEntries[i].next = newBuckets[bucket];
30                     newBuckets[bucket] = i;
31                 }
32             }
33             buckets = newBuckets;
34             entries = newEntries;
35         }

foreach遍历 
Dictionary实现了IEnumerator接口,是可以用foreach进行遍历的,遍历的集合元素类型为KeyValuePair,是一种键值对的结构,实现是很简单的,包含了最基本的键属性和值属性, 
从代码中可以看出,用foreach遍历Dictionary就像用for遍历一个基础数组一样。 
这是内部类Enumerator(遍历就是对它进行的操作)中的方法MoveNext(实现IEnumerator接口的MoveNext方法)。

 1    public bool MoveNext() {
 2                 if (version != dictionary.version) {
 3                     ThrowHelper.ThrowInvalidOperationException(ExceptionResource.InvalidOperation_EnumFailedVersion);
 4                 }
 5
 6                 while ((uint)index < (uint)dictionary.count) {
 7                     if (dictionary.entries[index].hashCode >= 0) {
 8                         current = new KeyValuePair<TKey, TValue>(dictionary.entries[index].key, dictionary.entries[index].value);
 9                         index++;
10                         return true;
11                     }
12                     index++;
13                 }
14
15                 index = dictionary.count + 1;
16                 current = new KeyValuePair<TKey, TValue>();
17                 return false;
18             }
19
20
21     public struct KeyValuePair<TKey, TValue> {
22         private TKey key;
23         private TValue value;
24
25         public KeyValuePair(TKey key, TValue value) {
26             this.key = key;
27             this.value = value;
28         }
29
30         //键属性
31         public TKey Key {
32             get { return key; }
33         }
34
35         //值属性
36         public TValue Value {
37             get { return value; }
38         }
39
40         public override string ToString() {
41             StringBuilder s = StringBuilderCache.Acquire();
42             s.Append('[');
43             if( Key != null) {
44                 s.Append(Key.ToString());
45             }
46             s.Append(", ");
47             if( Value != null) {
48                s.Append(Value.ToString());
49             }
50             s.Append(']');
51             return StringBuilderCache.GetStringAndRelease(s);
52         }
53     }

Dictionary内部实现结构比Hashtable复杂,因为具有单链表的特性,效率也比Hashtable高。
举例说明:
一,实例化一个Dictionary, Dictionary<string,string> dic=new Dictionary<string,string>();
a,调用Dictionary默认无参构造函数。
b,初始化Dictionary内部数组容器:buckets int[]和entries<T,V>[],分别分配长度3。(内部有一个素数数组:3,7,11,17....如图:
);
二,向dic添加一个值,dic.add("a","abc");
a,将bucket数组和entries数组扩容3个长度。
b,计算"a"的哈希值,
c,然后与bucket数组长度(3)进行取模计算,假如结果为:2
d,因为a是第一次写入,则自动将a的值赋值到entriys[0]的key,同理将"abc"赋值给entriys[0].value,将上面b步骤的哈希值赋值给entriys[0].hashCode,
entriys[0].next 赋值为-1,hashCode赋值b步骤计算出来的哈希值。
e,在bucket[2]存储0。
三,通过key获取对应的value, var v=dic["a"];
a, 先计算"a"的哈希值,假如结果为2,
b,根据上一步骤结果,找到buckets数组索引为2上的值,假如该值为0.
c, 找到到entriys数组上索引为0的key,
1),如果该key值和输入的的“a”字符相同,则对应的value值就是需要查找的值。
2) ,如果该key值和输入的"a"字符不相同,说明发生了碰撞,这时获取对应的next值,根据next值定位buckets数组(buckets[next]),然后获取对应buckets上存储的值在定位到entriys数组上,......,一直到找到为止。
3),如果该key值和输入的"a"字符不相同并且对应的next值为-1,则说明Dictionary不包含字符“a”。
C# Dictionary源码剖析---哈希处理冲突的方法有:开放定址法、再哈希法、链地址法、建立一个公共溢出区等的更多相关文章
- C# Dictionary源码剖析
		
参考:https://blog.csdn.net/exiaojiu/article/details/51252515 http://www.cnblogs.com/wangjun1234/p/3719 ...
 - 从Dictionary源码看哈希表
		
一.基本概念 哈希:哈希是一种查找算法,在关键字和元素的存储地址之间建立一个确定的对应关系,每个关键字对应唯一的存储地址,这些存储地址构成了有限.连续的存储地址. 哈希函数:在关键字和元素的存储地址之 ...
 - 老李推荐:第5章1节《MonkeyRunner源码剖析》Monkey原理分析-启动运行: 官方简介
		
老李推荐:第5章1节<MonkeyRunner源码剖析>Monkey原理分析-启动运行: 官方简介 在MonkeyRunner的框架中,Monkey是作为一个服务来接受来自Monkey ...
 - 老李推荐:第2章3节《MonkeyRunner源码剖析》了解你的测试对象: NotePad窗口Activity之NoteEditor简介
		
老李推荐:第2章3节<MonkeyRunner源码剖析>了解你的测试对象: NotePad窗口Activity之NoteEditor简介 我们在增加和编辑一个日记的时候会从NotesL ...
 - 转:【Java集合源码剖析】TreeMap源码剖析
		
前言 本文不打算延续前几篇的风格(对所有的源码加入注释),因为要理解透TreeMap的所有源码,对博主来说,确实需要耗费大量的时间和经历,目前看来不大可能有这么多时间的投入,故这里意在通过于阅读源码对 ...
 - 07 drf源码剖析之节流
		
07 drf源码剖析之节流 目录 07 drf源码剖析之节流 1. 节流简述 2. 节流使用 3. 源码剖析 总结: 1. 节流简述 节流类似于权限,它确定是否应授权请求.节流指示临时状态,并用于控制 ...
 - 06 drf源码剖析之权限
		
06 drf源码剖析之权限 目录 06 drf源码剖析之权限 1. 权限简述 2. 权限使用 3.源码剖析 4. 总结 1. 权限简述 权限与身份验证和限制一起,决定了是否应授予请求访问权限. 权限检 ...
 - 05 drf源码剖析之认证
		
05 drf源码剖析之认证 目录 05 drf源码剖析之认证 1. 认证简述 2. 认证的使用 3. 源码剖析 4. 总结 1. 认证简述 当我们通过Web浏览器与API进行交互时,我们可以登录,然后 ...
 - java 解决Hash(散列)冲突的四种方法--开放定址法(线性探测,二次探测,伪随机探测)、链地址法、再哈希、建立公共溢出区
		
java 解决Hash(散列)冲突的四种方法--开放定址法(线性探测,二次探测,伪随机探测).链地址法.再哈希.建立公共溢出区 标签: hashmaphashmap冲突解决冲突的方法冲突 2016-0 ...
 
随机推荐
- Oracle中使用PL/SQL如何定义参数、参数赋值、输出参数和 if 判断
			
1.pl/sql如何定义参数 declare --1)定义参数 -- ban_Id number; ban_Name ); 2.pl/sql如何参数赋值 --2)参数赋值-- ban_Id :; ba ...
 - 字符串和数组----vector
			
vector能容纳绝大多数类型的对象作为其元素,但是因为引用不是对象,所以不存在包含引用的vector. 使用vector需要包含头文件vector. 1.初始化vector对象的方法 1)vecto ...
 - 两点(DFS)
			
福克斯在玩一款手机解迷游戏,这个游戏叫做”两点”.基础级别的时候是在一个n×m单元上玩的.像这样: 每一个单元有包含一个有色点.我们将用不同的大写字母来表示不同的颜色. 这个游戏的关键是要找出一个包含 ...
 - react router @4 和 vue路由 详解(四)vue如何在路由里面定义一个子路由
			
完整版:https://www.cnblogs.com/yangyangxxb/p/10066650.html 6.vue如何在路由里面定义一个子路由? 给父路由加一个 children:[] 参考我 ...
 - LY.JAVA面向对象编程.final、多态、抽象类、接口
			
2018-07-08 13:47:26 final关键字 多态 从右向前念 多态的成员访问特点及转型的理解 多态的问题理解: class 孔子爹 { public int age = 40; p ...
 - 公司最近把开发人员的系统全部改为windows了
			
公司最近把开发人员的开发环境全部改为windows了,唯一linux系统(一位做python 开发的同事自己安装的),被要求下午下班前改为windows 系统,windows 是公认的不适合开发,我家 ...
 - 怎样判断JS对象中的属性
			
// 如何在不访问属性值的情况下判断对象中是否存在这个属性 var obj = { a: 2 }; Object.defineProperty( obj, 'b', // 让 b 不可枚举 { enu ...
 - U启动安装原版Win7系统教程
			
1.制作u启动u盘启动盘2.下载原版win7系统镜像并存入u盘启动盘3.硬盘模式更改为ahci模式 第一步: 将准备好的u启动u盘启动盘插在电脑usb接口上,然后重启电脑,在出现开机画面时通过u盘启动 ...
 - tomcat原理详解
			
tomcat的启动是通过Bootstrap类的main方法(tomcat6开始也可以直接通过Catlina的main启动) Bootstrap的启动 Bootstrap的main方法先new了一个自己 ...
 - TCP/IP协议 计算机间的通讯,传输、socket 传输通道
			
#! /usr/bin/env python3 # -*- coding:utf-8 -*- #TCP/IP简介 #为了把全世界的所有不同类型的计算机都连接起来,就必须规定一套全球通用的协议,为了实现 ...