【缓存中间件】Redis哈希槽的概念

news/2024/7/7 16:52:03

数据分布理论
分布式数据库首先要解决把整个数据集按照分区规则映射到多个节点的问题,即把数据集划分到多个节点上,每个节点负责整体数据的一个子集。。
需要重点关注的是数据分区规则。常见的分区规则有哈希分区和顺序分区两种,哈希分区离散度好、数据分布业务无关、无法顺序访问,顺序分区离散度易倾斜、数据分布业务相关、可顺序访问。
节点取余分区
使用特定的数据,如Redis的键或用户ID,再根据节点数量N使用公式hash(key)%N计算出哈希值,用来决定数据映射到哪一个节点上。这种方案存在一个问题:当节点数量变化时,如扩容或收缩节点,数据节点映射关系需要重新计算,会导致数据的重新迁移。
这种方式的突出优点是简单性,常用于数据库的分库分表规则,一般采用预分区的方式,提前根据数据量规划好分区数,比如划分为512或1024张表,保证可支撑未来一段时间的数据量再根据负载情况将表迁移到其他数据库中。扩容时通常采用翻倍扩容,避免数据映射全部被打乱导致全量迁移的情况。
一致性哈希分区
实现思路是为系统中每个节点分配一个token,范围一般在0~23,这些token构成一个哈希环。数据读写执行节点查找操作时,先根据key计算hash值,然后顺时针找到第一个大于等于该哈希值的token节点。例如:
集群中有三个节点(Node1、Node2、Node3),五个键(key1key2 key3key4、key5),其路由规为:

 当集群中增加节点时,比如当在Node2和Node3之间增加了一个节点Node4,此时再访问节点key4时,不能在Node4中命中,更一般的,介于Node2和Node4之间的key均失效,这样的失效方式太过于“集中”和“暴力”,更好的方式应该是“平滑”和“分散”地失效。

 这种方式相比节点取余最大的好处在于加入和副除节点只影响哈希环中相邻的节点,对其他节点无影响。但一致性哈希分区存在几个问题
1、当使用少量节点时,节点变化将大范围影响哈希环中数据映射,因此这种方式不适合少量数据节点的分布式方案。
2、增加节点只能对下一个相邻节点有比较好的负载分担效果,例如上图中增加了节点Node4只能够对Node3分担部分负载,对集群中其他的节点基本没有起到负载分担的效果;类似地,删除节点会导致下一个相邻节点负载增加,而其他节点却不能有效分担负载压力。
正因为一致性哈希分区的这些缺点,一些分布式系统采用虚拟槽对一致性哈希进行改进,比如虚拟一致性哈希分区。

虚拟一致性哈希分区

为了在增删节点的时候,各节点能够保持动态的均衡,将每个真实节点虚拟出若干个虚拟节点,再将这些虚拟节点随机映射到环上。此时每个真实节点不再映射到环上,真实节点只是用来存储键值对,它负责接应各自的一组环上虚拟节点。当对键值对进行存取路由时,首先路由到虚拟节点上,再由虚拟节点找到真实的节点。
如下图所示,三个节点真实节点: Node1、Node2和Node3,每个真实节点虚拟出三个虚拟节点: X#V1X#V2和X#V3,这样每个真实节点所负责的hash空间不再是连续的一段,而是分散在环上的各处,这样就可以将局部的压力均衡到不同的节点,虚拟节点越多,分散性越好,理论上负载就越倾向均匀。

虚拟槽分区


Redis则是利用了虚拟槽分区,可以算上面虚拟一致性哈希分区的变种,它使用分散度良好的哈希函数把所有数据映射到一个固定范围的整数集合中,整数定义为槽( slot)。这个范围一般远远大于节点数,比如RedisCluster言范围是0~16383。槽是集群内数据管理和迁移的基本单位。采用大范围槽的主要目的是为了方便数据拆分和集群扩展。每个节点会负责一定数量的槽
比如集群有3个节点,则每个节点平均大约负责5460个槽。由于采用高质量的哈希算法,每个槽所映射的数据通常比较均匀,将数据平均划分到5个节点进行数据分区。Redis Cluster就是采用虚拟槽分区下面就介绍Redis数据分区方法。

为什么Redis只取16384个槽

Redis集群中,在握手成功后,连个节点之间会定期发送ping/pong消息,交换数据信息,集群中节点数量越多,消息体内容越大,比如说10个节点的状态信息约1kb,同时redis集群内节点,每秒都在发ping消息,例如个总节点数为200的Redis集群,默认情况下,这时ping/pong消息占用带宽达到25M。
那么如果槽位为65536,发送心跳信息的消息头达8k,发送的心跳包过于庞大,非常浪费带宽。
其次redis的集群主节点数量基本不可能超过1000个。集群节点越多,心跳包的消息体内携带的数据越多。如果节点过1000个,也会导致网络拥堵。因此redis作者,不建议redis cluster节点数量超过1000个。
那么,对于节点数在1000以内的redis cluster集群,16384个槽位够用了,可以以确保每个 master 有足够的插槽,没有必要拓展到65536个。
再者Redis主节点的配置信息中,它所负责的哈希槽是通过一张bitmap的形式来保存的,在传输过程中,会对bitmap进行压缩,但是如果bitmap的填充率slots/N很高的话(N表示节点数),也就是节点数很少,而哈希槽数量很多的话,bitmap的压缩率就很低,也会浪费资源。
所以Redis作者决定取16384个槽,作为一个比较好的设计权衡。

 


http://www.niftyadmin.cn/n/3061217.html

相关文章

实用ExtJS教程100例-006:ExtJS中Window的用法示例

在前面几个示例中,我们演示了MessageBox的各种用法,今天这篇文章将演示如何使用Window。 我们首先来创建一个窗口: var win Ext.create("Ext.window.Window", {title: "标题 - www.qeefee.com", //标题height: 20…

新派成长价投标的池:三年三倍股的摇篮

我不说一年三倍三年十倍,也不说必然如何如何,那都是吹牛。这个标的池就是个摇篮,各种投资风格都能找到自己所需。这个标的池分为三类:题材:就是弹性可能非常大,但是消息面影响很大,确定性并不高…

哔事真多!

原创:小姐姐味道(微信公众号ID:xjjdog),欢迎分享,转载请保留出处。沉默的大多数,总有忍不住生活感悟喷薄而出的时候。逼自己一次吧事情会因为自己的努力而变得更好真正的勇士永远不会对现实妥协…

锂矿之龙战于野

锂矿降龙十八掌,只看最厉害的几掌就可以了,也就是最有价值的几家。锂矿,有价格利润与股票走势的巨大剪刀差,有周期与成长的巨大争议,有暴涨暴跌的疯狂与落寞。锂矿,以新能源时代的战略资源“白色石油”之名…

解决spring security自定义filter重复执行问题

为什么80%的码农都做不了架构师?>>> 序 本文讲一个spring security自定义filter非常容易出现的一个问题,那就是filter被执行两遍。 复现 EnableWebSecurity public class SecurityConfig extends WebSecurityConfigurerAdapter {Beanpublic …

锂矿降龙十八掌之时乘六龙:盛新锂能

锂矿,有价格利润与股票走势的巨大剪刀差,有周期与成长的巨大争议,有暴涨暴跌的疯狂与落寞。锂矿,以新能源时代的战略资源“白色石油”之名,见证了史无前例的价格暴涨与利润爆炸、股价暴涨与暴跌、周期与成长的争议&…

Git捷径,游戏搞定!

原创:小姐姐味道(微信公众号ID:xjjdog),欢迎分享,转载请保留出处。前几天公司有人做git培训,讲的枯燥乏味,观众们都睡着了。这不由的让我想起一个非常棒的可视化git学习工具。有了这…

HTML基础第九讲---表单

转自:https://i.cnblogs.com/posts?categoryid1121494 最基本的留言版应该大家都用过吧!没错这就是一个表单运用很好的例子。表单提供了一个管道让读者发表心声,让网站不再只是设计者的天下,而是能够让更多网友共同参与的地方。另…