Skip to content

集群搭建

集群的搭建能减轻服务器的压力,提高效率。

问题

容量不够,Redis 如何进行扩容?并发写操作, Redis 如何分摊?另外,主从模式,薪火相传模式,主机宕机,导致 IP 地址发生变化,应用程序中配置需要修改对应的主机地址、端口等信息。

之前通过代理主机来解决,但是 Redis3.0 中提供了解决方案。就是 无中心化集群 配置:即每个节点都可以和其他节点进行联系。如 A、B、C 节点。想访问 B 节点,可以先访问 A 节点,A 节点会去联系 B 节点。无须代理服务器或者负载均衡去找对应的节点。

什么是集群

Redis 集群实现了对 Redis 的水平扩容,即启动 N 个 Redis 节点,将整个数据库分布存储在这 N 个节点中,每个节点存储总数据的 1/N。

Redis 集群通过分区(partition)来提供一定程度的可用性(availability):即使集群中有一部分节点失效或者无法进行通讯,集群也可以继续处理命令请求。

环境准备

  • 将 rdb、aof 文件都删除掉

  • 制作 6 个实例,三主三从,三主机端口分别为 6379,6380,6381。三从机端口分别为6389,6390,6391(具体端口视情况)

  • 每一个配置文件的基本信息修改(和 主从复制 - 哨兵模式 一样)

    • 开启 daemonize yes
    • 指定 6 个端口,不能重复
    • 6 个 Pid 文件名字配置,不能重复,尽量以加上端口进行识别
    • 6 个 Log 文件名字,不能重复,尽量以加上端口进行识别
    • 6 个 dump.rdb 名字,不能重复,尽量以加上端口进行识别
    • Appendonly 关掉或者换名字
  • 每一个配置文件的集群信息修改

    • cluster-enabled yes:打开集群模式
    • cluster-config-file nodes-6379.conf:设定节点配置文件名
    • cluster-node-timeout 15000:设定节点失联时间,超过该时间(毫秒),集群自动进行主从切换

6379 配置文件模板:

sh
include /etc/redis.conf    # 核心配置文件
pidfile /var/run/redis_6379.pid   # 固定
port 6379    #端口
dbfilename dump6379.rdb   # 持久化备份文件
cluster-enabled yes   # 开启集群模式

cluster-config-file nodes-6379.conf   # 自己的节点文件名,自动生成,存放节点信息,路径与配置文件一致

cluster-node-timeout 15000   # 设定节点失联时间,超过该时间(毫秒),集群自动进行主从切换

其他 5 个 Redis 实例也加上端口来识别

技巧

先配置好一个如 redis6379.conf 配置文件,然后拷贝出 5 个,并内容把 6379 全改为自己的端口名即可:

使用替换指令:

sh
:%s/6379/6380            # 其中 /6380 可以换成其他如 6381  6389 等

总结:创建多个 Redis 配置文件,文件名以及端口以及端口有关的名都不一样即可。主从或者集群关系只需几个指令就可以设置。

分别启动 6 台 Redis(如果在的就是当前文件的目录,可以不加目录路径)

sh
redis-server 所在目录/redis6379.conf
redis-server 所在目录/redis6380.conf
redis-server 所在目录/redis6381.conf
redis-server 所在目录/redis6389.conf
redis-server 所在目录/redis6390.conf
redis-server 所在目录/redis6391.conf

确保所有 Redis 实例启动后,nodes-xxxx.conf 文件都生成正常,即配置文件里的 cluster-config-file nodes-6379.conf 是否生成,位置与该配置文件一个目录。

此时虽然启动了 6 台 Redis,但是他们并没有关联起来,需要指令:

  • 首先进入 Redis 的安装目录下的 src 目录中,如 /opt/redis/redis-6.2.6/src,因为指令就在这个目录下

  • 执行的指令模板:

    sh
    redis-cli --cluster create --cluster-replicas -a passsword num ip:port ip:port ...

    其中 num 代表每个主节点需要的从节点数,如下面的 1,代表每个主节点都有一个从节点

    -a 代表要输入密码

  • 完整指令:

    sh
    redis-cli --cluster create --cluster-replicas 1 192.168.199.27:6379 192.168.199.27:6380 192.168.199.27:6381 192.168.199.27:6389 192.168.199.27:6390 192.168.199.27:6391

    此处不要用 127.0.0.1, 请用真实 IP 地址,如果有密码,加入在 --cluster-replicas 后加 -a 密码即可。

此时不报错,说明集群已经搭建成功,进入任意主机即可。但是进入客户端前需要指定是集群模式和端口号:

sh
redis-cli -c -p 6379
redis-cli -c -p 6380
redis-cli -c -p 6381
redis-cli -c -p 6389
redis-cli -c -p 6390
redis-cli -c -p 6391

-c 必须加,代表进入的是集群策略。

插槽slot

启动集群后,会看到如下提示:

sh
All 16384 slots covered

16384 代表插槽数量,不是固定的。

每个节点负责一部分插槽。即 16384 个插槽分成三份给三个节点。

集群使用公式 CRC16(key) % 16384 来计算键 key 属于哪个槽,其中 CRC16(key) 语句用于计算键 key 的 CRC16 校验和。

示例:

节点 A 负责处理 0 号至 5460 号插槽。节点 B 负责处理 5461 号至 10922 号插槽。节点 C 负责处理 10923 号至 16383 号插槽。

执行如下操作:

set k1 v1
set k2 v2
set k3 v3

当存储 k1,k2,k3 的值时,对这三个 key 分别计算出 slot 值,然后存入管理不同的 slot 范围的节点里。

假设 k1 的 slot 值为 440,则存入 A 节点里,k2 的 slot 值为 8999,则存入 B 节点里。

当 get 取值时,会根据 key 计算 slot 值去对应的节点拿到值。

在集群中录入值

在 redis-cli 每次录入、查询键值,Redis 都会计算出该 key 应该送往的插槽,如果不是该客户端对应服务器的插槽,Redis 会报错,并告知应前往的 Redis 实例地址和端口。

redis-cli 客户端提供了 –c 参数实现自动重定向。

redis-cli -c –p 6379 登入后,再录入、查询键值对可以自动重定向。

缺点

不在一个 slot 下的键值,是不能使用 mget、mset 等多键操作,因为添加多个 key 时,不同的 key 计算出来的 slot 是不一样的

解决:

可以通过 {} 来定义组的概念,从而使 key 中 {} 内相同内容的键值对放到一个 slot 中去

集群指令

查看集群信息

sh
cluster nodes

查询集群中的值

sh
cluster getkeysinslot <slot> <count>  # 返回 count 个 slot 槽中的键

如果主节点下线?从节点能否自动升为主节点?

注意:15 秒超时(前面配置文件配置的)。

如果所有某一段插槽的主从节点都宕掉,Redis 服务是否还能继续?

答:看配置文件的配置。redis.conf 中的参数 cluster-require-full-coverage

  • 如果某一段插槽的主从都挂掉,而 cluster-require-full-coverage 为 yes ,那么 ,整个集群都挂掉
  • 如果某一段插槽的主从都挂掉,而 cluster-require-full-coverage 为 no ,那么,该插槽数据全都不能使用,也无法存储

集群优缺点

优点:

  • 实现扩容

  • 分摊压力

  • 无中心配置相对简单

缺点:

  • 多键操作是不被支持的

  • 多键的 Redis 事务是不被支持的。lua 脚本不被支持

  • 由于集群方案出现较晚,很多公司已经采用了其他的集群方案,而代理或者客户端分片的方案想要迁移至 Redis Cluster,需要整体迁移而不是逐步过渡,复杂度较大