rehash过程_contenthash

rehash过程_contenthash步骤1)首先创建一个比现有哈希表更大的新哈希表(expand)2)然后将旧哈希表的所有元素都迁移到新哈希表去(rehash)dictAdd对字典添加元素的时候,_dictExpandIfNeeded会


Jetbrains全系列IDE使用 1年只要46元 售后保障 童叟无欺

步骤

1) 首先创建一个比现有哈希表更大的新哈希表(expand)

2) 然后将旧哈希表的所有元素都迁移到新哈希表去(rehash)
 

dictAdd 对字典添加元素的时候, _dictExpandIfNeeded 会一直对 0 号哈希表的使用情况进行检查。
当 rehash 条件被满足的时候,它就会调用 dictExpand 函数,对字典进行扩展。
static int _dict
ExpandIfNeeded(dict *d)  

{  

    // 当 0 号哈希表的已用节点数大于等于它的桶数量,  

    // 且以下两个条件的其中之一被满足时,执行 expand 操作:  

    // 1) dict_can_resize 变量为真,正常 expand  

    // 2) 已用节点数除以桶数量的
比率超过变量 dict_force_resize_ratio ,强制 expand  

    // (目前版本中 dict_force_resize_ratio = 5)  

    if (d->ht[0].used >= d->ht[0].size &&    (dict_can_resize ||  d->ht[0].used/d->ht[0].size > dict_force_resize_ratio))  

    {  return dictExpand(d, ((d->ht[0].size > d->ht[0].used) ?   d->ht[0].size : d->ht[0].used)*2);  }  

}
 

将新哈希表赋值给 1 号哈希表,并将字典的 rehashidx 属性从 -1 改为 0:

int dictExpand(dict *d, unsigned long size)  

{  

    // 被省略的代码…  

  

    // 计算哈希表的(真正)大小  

    unsigned long realsize = _dictNextPower(size);  

  

    // 创建新哈希表  

    dictht n;  

    n.size = realsize;  

    n.sizemask = realsize-1;  

    n.table = zcalloc(realsize*sizeof(dictEntry*));  

    n.used = 0;  

  

    // 字典的 0 号哈希表是否已经初始化?  

    // 如果没有的话,我们将新建哈希表作为字典的 0 号哈希表  

    if (d->ht[0].table == NULL) {  

        d->ht[0] = n;  

    } else {  

    // 否则,将新建哈希表作为字典的 1 号哈希表,并将它用于 rehash  

        d->ht[1] = n;  

        d->rehashidx = 0;  

    }  

  

    // 被省略的代码…  

}  
 

 

渐增式rehash和平摊操作

集中式的 rehash 会引起大量的计算工作。

渐增式 rehash将 rehash 操作平摊到dictAddRaw 、dictGetRandomKey 、dictFind 、dictGenericDelete这些函数里面,每当上面这些函数被执行的时候, 
_dictRehashStep 函数就会执行,将 1 个元素从 0 号哈希表 rehash 到 1 号哈希表,这样就避免了集中式的 rehash 。

以下是 dictFind 函数,它是其中一个平摊 rehash 操作的函数:

dictEntry *dictFind(dict *d, const void *key)  

{  

    // 被忽略的代码…  

  

    // 检查字典(的哈希表)能否执行 rehash 操作  

    // 如果可以的话,执行平摊 rehash 操作  

    if (dictIsRehashing(d)) 
_dictRehashStep(d);  

  

    // 被忽略的代码…  

}  

  

其中 dictIsRehashing 就是检查字典的 rehashidx 属性是否不为 -1 :#define dictIsRehashing(ht) ((ht)->rehashidx != -1)  

如果条件成立成立的话, _dictRehashStep 就会被执行,将一个元素从 0 号哈希表转移到 1 号哈希表:

static void _dictRehashStep(dict *d) {    if (d->iterators == 0) dictRehash(d,1);  }  

  

(代码中的 iterators == 0 表示在 rehash 时
不能有迭代器,因为迭代器可能会修改元素,所以不能在有迭代器的情况下进行 rehash 。)

0 号哈希表的元素被逐个逐个地,从 0 号 rehash 到 1 号,最终整个 0 号哈希表被清空,这时 _dictRehashStep 再调用 dictRehash ,被清空的 0 号哈希表就会被删除,然后原来的  1 号哈希表成为新的 0 号哈希表。

当 rehashidx 不等于 -1 ,也即是 dictIsRehashing 为真时,所有新添加的元素都会直接被加到 1 号数据库,这样 0 号哈希表的大小就会只减不增。


哈希表的大小

 我们知道哈希表最初的大小是由 DICT_HT_INITIAL_SIZE 决定的,而当 rehash 开始之后,根据给定的条件,哈希表的大小就会发生变动:

 

static int _dictExpandIfNeeded(dict *d)  

{  

    // 被省略的代码…  

  

    if (d->ht[0].used >= d->ht[0].size &&  

        (dict_can_resize ||  

         d->ht[0].used/d->ht[0].size > dict_force_resize_ratio))  

    {  

        return dictExpand(d, ((d->ht[0].size > d->ht[0].used) ?  

                                    d->ht[0].size : d->ht[0].used)*2);  

    }  

  

    // 被省略的代码…  

}  

 

可以看到, 
d->ht[0].size 和 d->ht[0].used 两个数之间的较大者乘以 2 ,会作为 size 参数被传入 dictExpand 函数,但是,尽管如此,这个数值仍然还不是哈希表的最终大小,因为在 dictExpand 里面,_dictNextPower 函数会根据传入的 size 参数计算出真正的表大小:

 

int dictExpand(dict *d, unsigned long size)  

{  

    // 被省略的代码…  

  

    // 计算哈希表的(真正)大小  

    unsigned long realsize = _dictNextPower(size);  

  

    // 创建新哈希表  

    dictht n;  

    n.size = realsize;  

    n.sizemask = realsize-1;  

    n.table = zcalloc(realsize*sizeof(dictEntry*));  

    n.used = 0;  

  

    // 被省略的代码…  

}  

 

至于 _dictNextPower 函数,它不断计算 2 的乘幂,直到遇到大于等于 size 参数的乘幂,就返回这个乘幂作为哈希表的大小:

 

static unsigned long _dictNextPower(unsigned long size)  

{  

    unsigned long i = DICT_HT_INITIAL_SIZE;  

  

    if (size >= LONG_MAX) return LONG_MAX;  

    while(1) {  

        if (i >= size)  

            return i;  

        i *= 2;  

    }  

}  

1) 哈希表的大小总是 2 的乘幂(也即是 2^N,此处 N 未知)

2)1 号哈希表的大小总比 0 号哈希表大


最后, 我为 redis 的源码分析项目专门建立了一个 github project ,上面有完整的源码文件,大部分加上了注释(目前只有 dict.c 和 dict.h),如果对代码的完整细节有兴趣,可以到上面去取:  
https://github.com/huangz1990/reading_redis_source

 
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/168252.html原文链接:https://javaforall.net

赞 (0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • id门禁卡复制到手机_手机NFC也可以刷ID卡门禁?无聊测试居然成功了![通俗易懂]

    id门禁卡复制到手机_手机NFC也可以刷ID卡门禁?无聊测试居然成功了![通俗易懂]前段时间换了个K20pro,有NFC功能后手又痒了,就想折腾一下NFC的日常使用。小区的门禁前几个月刚换成了亲邻开门,可以用微信小程序开门,但每次都要拿手机出来点几下(特别是手机提着东西的时候),还是没有手机接触式开门方便。拿出家里的门禁卡放手机背面,没反应,我NFC应该没问题呀!换另外一台华为手机还是没反应!上网一查,我家的门禁卡居然是ID卡!但还是不死心,在小米钱包里虚拟了一张门卡,放到小区门…

    2022年6月10日
  • pythonconsole使用_pycharm add new configuration

    pythonconsole使用_pycharm add new configurationPycharm的下方工具栏中有两个窗口:PythonConsole和Terminal(如下图)Terminal叫做终端,即命令行模式(命令行模式与系统的CMD(命令提示符)一样,可以运行各种系统命令);PythonConsole叫做Python控制台,即Python交互模式(Python交互模式主要有两种:CPython用>>>作为提示符,而IPython用In[序号]:作为提示符)。Python交互式模式可以直接输入代码,然后执行,并立刻得到结果,因此Pytho

    2022年8月26日
  • 【经验总结—2】:深度学习数据集下载网站总结[通俗易懂]

    【经验总结—2】:深度学习数据集下载网站总结[通俗易懂]数据集是深度学习的基础,深度学习模型的好坏与数据集有着直接关联,这里给出一些搜索数据集的优秀网站,记得要一键三连哦!!1.CVDatasetsontheweb一个非常全的数据集总结网站,里面包含了目标检测、目标分类、目标识别、目标跟踪、语义分割、人体姿态数据集等。2.YetAnotherComputerVisionIndexToDatasets(YACVID)全,啥都有!3.阿里天池数据集不得不说,阿里nb!数据集种类丰富,分类明晰!不止如此,阿里每年都

    2022年10月7日
  • 交通信号灯控制器C语言代码,交通信号灯控制器代码及说明.doc

    交通信号灯控制器C语言代码,交通信号灯控制器代码及说明.docPAGEPAGE3课程设计报告课程名称:FPGA现代数字系统设计设计名称:交通信号灯控制器姓名:***学号:2010000379专业:通信指导教师:***起止日期:2010.12.25-2011.1.9课程设计任务书设计名称:设计要求:(1)设计一个交通信号灯控制器…

    2022年9月24日
  • Java集合类详解

    Java集合类详解Collection├List│├LinkedList│├ArrayList│└Vector│ └Stack└SetMap├Hashtable├HashMap└WeakHashMapCollection接口  Collection是最基本的集合接口,一个Collection代表一组Object,即Collection的元素(Element

    2022年4月27日
  • laravel 使用Postman上传多图片

    laravel 使用Postman上传多图片

    2022年2月14日

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号