深入理解Redis数据结构—字典篇

发布于:2023-01-22 ⋅ 阅读:(8) ⋅ 点赞:(0) ⋅ 评论:(0)

字 典

      字典,又称“符号表”、“关联数组”、“映射”,是一种保存键值对的抽象数据结构;

      字典中的每个键都是独一无二的,程序可以在字典中根据键查找、更新与之关联的值,或通过键来删除整个键值对;

      Redis的数据库底层就使用字典作为底层实现,对数据库的增、删、查、改操作都是构建在对字典的操作之上的;

      除作为数据库的底层实现外,字典还是哈希键的底层实现之一,当一个哈希键包含的键值对较多,或键值对中的元素都是比较长的字符串时,Redis就会使用字典作为哈希键的底层实现;

字典的实现

      Redis的字典使用哈希表作为底层实现,一个哈希表里面可以有多个哈希表节点,而每个哈希表节点就保存了字典中的一个键值对;

哈希表

      Redis所使用的哈希表由dict.h/dictht结构定义:

      table属性是一个数组,数组中的每个元素都是一个指向dict.h/dictEntry结构的指针,每个dictEntry结构保存着一个键值对;

      size属性记录了哈希表的大小,即table数组的大小;

      used属性记录了哈希表中目前已有节点(键值对)的数量;

      sizemask属性的值总是等于size-1,该属性与哈希值共同决定了一个键应该放到table数组的哪个索引上;

哈希表节点

      哈希表节点使用dictEntry结构表示,每个dictEntry结构保存着一个键值对:

     

key属性保存键值对中的

v属性则保存键值对中的值,其中值可以是一个指针,亦或是uint64_t、int64_t的整数;

next属性是指向另一个哈希表节点的指针,可将多个哈希表节点连接起来,用于解决哈希冲突;

字典

      Redis中的字典由dict.h/dict结构表示:

      type属性:一个指向dictType结构的指针,每个dictType结构保存了一簇用于操作特定类型键值对的函数,Redis会为用途不同的字典设置不同的类型特定函数;

      privdata属性:保存了需要传给那些类型特定函数的可选参数;

      ht属性:包含两个项的数组,数组中的每个项都是一个dictht哈希表,一般情况下,字典只使用ht[0]哈希表,只有在对ht[0]进行rehash时才会使用到ht[1]

      rehashids属性:记录了rehash当前的进度,若没有进行rehash时,该值为-1;

哈希算法

当将一个新的键值对添加到字典里面时,程序需要先根据键值对的键计算出哈希值和索引值,再根据索引值将哈希表节点放置在哈希表的指定索引下;

解决键冲突

      当有两个或以上数量的键被分配到了哈希表数组的同一个索引上时,称这些键发生了“哈希冲突”;

      Redis使用链地址法解决哈希冲突,每个哈希表节点都有一个next指针,被分配到同一个索引上的哈希表节点可以通过next指针构成一个单向链表;

      当发生哈希冲突时,新插入的哈希表节点将插在索引下已有节点的前面(头插法);

rehash

      随着操作的不断执行,哈希表保存的键值对会逐渐增多或减少,为了让哈希表的负载因子维持在一个合理的范围内,当哈希表保存的键值对数量太多或太少时,程序需要对哈希表的大小进行响应的扩展收缩

      扩展、收缩操作可以通过执行rehash(重新散列)操作完成,Redis对字典的哈希表执行rehash步骤如下:

  1. 为字典的ht[1]哈希表分配空间,该空间大小取决于要执行的操作,以及ht[0]当前包含的键值对数量(也即是ht[0].used属性的值):
    1. 扩展操作,则ht[1]的大小为第一个大于等于ht[0].used * 2的2^n(2的n次幂);
    2. 收缩操作,则ht[1]的大小为第一个大于等于ht[0].used的2^n;
  2. 当保存在ht[0]中的所有键值对rehash到ht[1]上面:rehash指重新计算键的哈希值和索引值,然后将键值对放置到ht[1]哈希表的指定位置上;
  3. 当ht[0]包含的所有键值对都迁移到了ht[1]之后(ht[0]变为空表),释放ht[0],将ht[1]设置为ht[0],并在ht[1]新创建一个哈希空白表,为下一次rehash做准备;

哈希表的扩展与收缩:

当以下条件任一被满足时,程序就会自动开始对哈希表执行扩展操作:

  • 服务器目前没有在执行BGSAVE命令、或BGREWRITEAOF命令,且哈希表的负载因子大于等于1
  • 服务器当前正在执行BGSAVE命令或BGREWRITEAOF命令,且哈希表的负载因子大于等于5

哈希表的负载因子计算公式:load_factor = ht[0].user / ht[0].size;

原因:当正在执行BGSAVE或BGREWRITEAOF命令的过程中,Redis需要创建当前服务器进程的子进程,而大多数操作系统都采用写时复制(copy-on-write)技术来优化子进程的使用效率,所以在子进程执行期间,服务器会提高执行扩展操作所需的负载因子,从而避免在子进程执行期间进行哈希表的扩展操作,可以避免不必要的内存写入操作,最大限度的节约内存;

另一方面:

  • 当哈希表的负载因子小于0.1时,程序自动开始对哈希表执行收缩操作;

渐进式rehash

      扩展或收缩操作都是讲ht[0]内的所有键值对rehash到ht[1]中,但该rehash操作并非一次性、集中式地完成,而是分多次、渐进式地完成;

      原因:当哈希表中键值对较少时一次性全部进行rehash的操作不会对系统性能造成影响;但若哈希表中键值对数据过大(成百万、上亿)则一次性rehash就会造成服务器一段时间的停止服务;

      为避免rehash对服务器性能造成影响,Redis采用渐进式rehash;

      rehash步骤:

  1. 为ht[1]分配空间,使得字典同时持有ht[0]和ht[1]两个哈希表;
  2. 将字典中rehashidx的值由-1置为0,表示rehash操作正式开始;
  3. 在rehash进行期间,每次对字典执行添加、删除、查找、更新操作时,程序出了执行指定的操作外,还顺带将ht[0]哈希表在rehashidx索引上的所有键值对rehash到ht[1],当一轮rehash工作完成之后,程序将rehashidx值增一;
  4. 当所有键值对都rehash到ht[1]上时,将rehashidx值为-1,表示rehash操作完成;

好处:渐进式rehash在于采用分而治之的方式,将rehash键值对所需的计算工作均摊到对字典的每个增加、删除、查找和更新操作上,从而避免了集中式rehash带来的庞大计算量

渐进式rehash执行期间的哈希表操作

      在渐进式rehash过程中,字典会同时持有ht[0]以及ht[1]两个哈希表,因此rehash操作执行期间,所有的增、删、查、改操作会同时在两个哈希表上进行;若在ht[0]中没有找到要操作的键值对时,便会继续到ht[1]中查找指定的键值对;

      在渐进式rehash执行期间,新添加到字典的键值对一律会被保存到ht[1]内,而ht[0]则不做任何添加操作,保证在rehash执行期间,ht[0]中的键值对只减少而不增加,直到ht[0]变为空表;

重点总结:

  • 字典被广泛用于实现Redis的各种功能,其中主要包括数据库哈希键
  • Redis中的字典使用哈希表作为底层实现,每个字典带有两个哈希表ht[0]、ht[1],ht[0]平时使用,ht[1]仅在rehash执行期间使用;
  • 当字典被用作数据库的底层实现,或哈希键的底层实现时,Redis使用MurmurHash2算法来计算键的哈希值;
  • 哈希表使用链地址法来解决哈希冲突,被分配到同一个索引上的多个键值对回来连接成一个单项链表(采用头插法);
  • 在对hash表进行扩展或收缩操作时,程序需要建现有哈希表包含的所有键值对rehash到新哈希表中,且为渐进式rehash;