深入理解Redis数据结构—字典篇

字 典

      字典，又称“符号表”、“关联数组”、“映射”，是一种保存键值对的抽象数据结构；

      字典中的每个键都是独一无二的，程序可以在字典中根据键查找、更新与之关联的值，或通过键来删除整个键值对；

      Redis的数据库底层就使用字典作为底层实现，对数据库的增、删、查、改操作都是构建在对字典的操作之上的；

      除作为数据库的底层实现外，字典还是哈希键的底层实现之一，当一个哈希键包含的键值对较多，或键值对中的元素都是比较长的字符串时，Redis就会使用字典作为哈希键的底层实现；

字典的实现

      Redis的字典使用哈希表作为底层实现，一个哈希表里面可以有多个哈希表节点，而每个哈希表节点就保存了字典中的一个键值对；

哈希表

      Redis所使用的哈希表由dict.h/dictht结构定义：

      table属性是一个数组，数组中的每个元素都是一个指向dict.h/dictEntry结构的指针，每个dictEntry结构保存着一个键值对；

      size属性记录了哈希表的大小，即table数组的大小；

      used属性记录了哈希表中目前已有节点（键值对）的数量；

      sizemask属性的值总是等于size-1，该属性与哈希值共同决定了一个键应该放到table数组的哪个索引上；

哈希表节点

      哈希表节点使用dictEntry结构表示，每个dictEntry结构保存着一个键值对：

key属性保存键值对中的键；

v属性则保存键值对中的值，其中值可以是一个指针，亦或是uint64_t、int64_t的整数；

next属性是指向另一个哈希表节点的指针，可将多个哈希表节点连接起来，用于解决哈希冲突；

字典

      Redis中的字典由dict.h/dict结构表示：

      type属性：一个指向dictType结构的指针，每个dictType结构保存了一簇用于操作特定类型键值对的函数，Redis会为用途不同的字典设置不同的类型特定函数；

      privdata属性：保存了需要传给那些类型特定函数的可选参数；

      ht属性：包含两个项的数组，数组中的每个项都是一个dictht哈希表，一般情况下，字典只使用ht[0]哈希表，只有在对ht[0]进行rehash时才会使用到ht[1]；

      rehashids属性：记录了rehash当前的进度，若没有进行rehash时，该值为-1；

哈希算法

当将一个新的键值对添加到字典里面时，程序需要先根据键值对的键计算出哈希值和索引值，再根据索引值将哈希表节点放置在哈希表的指定索引下；

解决键冲突

      当有两个或以上数量的键被分配到了哈希表数组的同一个索引上时，称这些键发生了“哈希冲突”；

      Redis使用链地址法解决哈希冲突，每个哈希表节点都有一个next指针，被分配到同一个索引上的哈希表节点可以通过next指针构成一个单向链表；

      当发生哈希冲突时，新插入的哈希表节点将插在索引下已有节点的前面（头插法）；

rehash

      随着操作的不断执行，哈希表保存的键值对会逐渐增多或减少，为了让哈希表的负载因子维持在一个合理的范围内，当哈希表保存的键值对数量太多或太少时，程序需要对哈希表的大小进行响应的扩展或收缩；

      扩展、收缩操作可以通过执行rehash（重新散列）操作完成，Redis对字典的哈希表执行rehash步骤如下：

1. 为字典的ht[1]哈希表分配空间，该空间大小取决于要执行的操作，以及ht[0]当前包含的键值对数量（也即是ht[0].used属性的值）：
   1. 若扩展操作，则ht[1]的大小为第一个大于等于ht[0].used * 2的2^n（2的n次幂）；
   2. 若收缩操作，则ht[1]的大小为第一个大于等于ht[0].used的2^n；
2. 当保存在ht[0]中的所有键值对rehash到ht[1]上面：rehash指重新计算键的哈希值和索引值，然后将键值对放置到ht[1]哈希表的指定位置上；
3. 当ht[0]包含的所有键值对都迁移到了ht[1]之后（ht[0]变为空表），释放ht[0]，将ht[1]设置为ht[0]，并在ht[1]新创建一个哈希空白表，为下一次rehash做准备；

哈希表的扩展与收缩：

当以下条件任一被满足时，程序就会自动开始对哈希表执行扩展操作：

• 服务器目前没有在执行BGSAVE命令、或BGREWRITEAOF命令，且哈希表的负载因子大于等于1；
• 服务器当前正在执行BGSAVE命令或BGREWRITEAOF命令，且哈希表的负载因子大于等于5；

哈希表的负载因子计算公式：load_factor = ht[0].user / ht[0].size;

原因：当正在执行BGSAVE或BGREWRITEAOF命令的过程中，Redis需要创建当前服务器进程的子进程，而大多数操作系统都采用写时复制（copy-on-write）技术来优化子进程的使用效率，所以在子进程执行期间，服务器会提高执行扩展操作所需的负载因子，从而避免在子进程执行期间进行哈希表的扩展操作，可以避免不必要的内存写入操作，最大限度的节约内存；

另一方面：

• 当哈希表的负载因子小于0.1时，程序自动开始对哈希表执行收缩操作；

渐进式rehash

      扩展或收缩操作都是讲ht[0]内的所有键值对rehash到ht[1]中，但该rehash操作并非一次性、集中式地完成，而是分多次、渐进式地完成；

      原因：当哈希表中键值对较少时一次性全部进行rehash的操作不会对系统性能造成影响；但若哈希表中键值对数据过大（成百万、上亿）则一次性rehash就会造成服务器一段时间的停止服务；

      为避免rehash对服务器性能造成影响，Redis采用渐进式rehash；

      rehash步骤：

1. 为ht[1]分配空间，使得字典同时持有ht[0]和ht[1]两个哈希表；
2. 将字典中rehashidx的值由-1置为0，表示rehash操作正式开始；
3. 在rehash进行期间，每次对字典执行添加、删除、查找、更新操作时，程序出了执行指定的操作外，还顺带将ht[0]哈希表在rehashidx索引上的所有键值对rehash到ht[1]，当一轮rehash工作完成之后，程序将rehashidx值增一；
4. 当所有键值对都rehash到ht[1]上时，将rehashidx值为-1，表示rehash操作完成；

好处：渐进式rehash在于采用分而治之的方式，将rehash键值对所需的计算工作均摊到对字典的每个增加、删除、查找和更新操作上，从而避免了集中式rehash带来的庞大计算量；

渐进式rehash执行期间的哈希表操作

      在渐进式rehash过程中，字典会同时持有ht[0]以及ht[1]两个哈希表，因此rehash操作执行期间，所有的增、删、查、改操作会同时在两个哈希表上进行；若在ht[0]中没有找到要操作的键值对时，便会继续到ht[1]中查找指定的键值对；

      在渐进式rehash执行期间，新添加到字典的键值对一律会被保存到ht[1]内，而ht[0]则不做任何添加操作，保证在rehash执行期间，ht[0]中的键值对只减少而不增加，直到ht[0]变为空表；

重点总结：

• 字典被广泛用于实现Redis的各种功能，其中主要包括数据库和哈希键；
• Redis中的字典使用哈希表作为底层实现，每个字典带有两个哈希表ht[0]、ht[1]，ht[0]平时使用，ht[1]仅在rehash执行期间使用；
• 当字典被用作数据库的底层实现，或哈希键的底层实现时，Redis使用MurmurHash2算法来计算键的哈希值；
• 哈希表使用链地址法来解决哈希冲突，被分配到同一个索引上的多个键值对回来连接成一个单项链表（采用头插法）；
• 在对hash表进行扩展或收缩操作时，程序需要建现有哈希表包含的所有键值对rehash到新哈希表中，且为渐进式rehash；