Redis Sentinel的Redis集群(主从&Sharding)高可用方案

时间:2023-03-09 02:52:36
Redis Sentinel的Redis集群(主从&Sharding)高可用方案

在不使用redis3.0之后版本的情况下,对于redis服务端一般是采用Sentinel哨兵模式,也就是一主多备的方式。

这里,先抛出三个问题,

问题1:单节点宕机数据丢失?
问题2:多节点(节点间没有主从关系)数据分片,采用sharedJedisPool,某节点宕机,导致获取不到连接
问题3:主从模式下,通过哨兵配置,单个集群数据无法分片(备复制->主的数据,备无写权限)

关于问题1,解决方式,多台redis节点,采用Sentinel哨兵模式,也就是一主多备的方式。

关于问题2,这里先不谈解决方式,在节点间无依赖的情况下,采用redis分片存储数据,也就是采用redis的sharedjedispool连接池,他有一个缺点,那就是当我的某个

节点宕机后,会导致整个连接出问题。

关于问题3,在一个集群环境下,从复制主的数据,这个时候一个集群下的redis实例之间的数据是同步,也就没有办法去做数据分片

在不适用redis3.0后的新特征load balance,也就是 ....

Redis Cluster  是Redis的集群实现,内置数据自动分片机制,集群内部将所有的key映射到16384个Slot中,集群中的每个Redis Instance负责其中的一部分的Slot的读写。集群客户端连接集群中任一Redis Instance即可发送命令,当Redis Instance收到自己不负责的Slot的请求时,会将负责请求Key所在Slot的Redis Instance地址返回给客户端,客户端收到后自动将原请求重新发往这个地址,对外部透明。一个Key到底属于哪个Slot由crc16(key) % 16384 决定

关于上面三个问题,在使用redis2.X版本的情况下,解决方式就是:

多个集群,然后就是集群之间数据分片,这样压力小很多。

举个例子:

Redis Sentinel的Redis集群(主从&Sharding)高可用方案

Redis Sentinel的Redis集群(主从&Sharding)高可用方案

看到上面的图应该就懂了。

在这里还有一个比较坑爹的问题就是,spring封装的那套spring-data-redis ,相对于jedis真的是不太好用,而且关于哨兵的配置文件,就是下面这段,

    <bean id="sentinelConfiguration"
class="org.springframework.data.redis.connection.RedisSentinelConfiguration">
<property name="master">
<bean class="org.springframework.data.redis.connection.RedisNode">
<property name="name" value="mymaster"></property>
</bean>
</property>
<property name="sentinels">
<set>
<bean class="org.springframework.data.redis.connection.RedisNode">
<constructor-arg name="host"
value="192.168.8.50"></constructor-arg>
<constructor-arg name="port"
value="26379"></constructor-arg>
</bean>
</set>
</property>
</bean>

  我在spring3.x版本下,死活报错,注入不了sentinels,然而打开源码去看,确实是有的,换成spring4.X后,就没有出现问题。

叹气!!!

决定弃用spring-data-redis,还是采用jedis。

但是jedis也有一个问题,在jedis2.5之后增加了redis.clients.jedis.JedisSentinelPool这个哨兵管理连接池,他也有一个问题,就是他取得的redis操作实例是jedis,而不是sharedJedis,因为sharedJedis,是从sharedJedisPool里面取出的,这样是不是又有一个问题,嗯,支持集群了,但不支持分片了!!

Redis Sentinel的Redis集群(主从&Sharding)高可用方案

显然不是我们想要的,怎么办呢,Google了下,在github上找到有人去写了一个连接池,地址在这

https://github.com/warmbreeze/sharded-jedis-sentinel-pool,

代码拿下来后,看了下,应该是可以的,加上测试下。

<?xml version="1.0" encoding="UTF-8"?>
<beans
xmlns="http://www.springframework.org/schema/beans"
xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
xmlns:p="http://www.springframework.org/schema/p"
xsi:schemaLocation="http://www.springframework.org/schema/beans http://www.springframework.org/schema/beans/spring-beans-3.0.xsd">
<!-- 连接池配置 -->
<bean id="jedisPoolConfig" class="redis.clients.jedis.JedisPoolConfig">
<property name="maxIdle" value="" />
<property name="maxTotal" value="" />
<property name="maxWaitMillis" value="" />
<property name="testOnBorrow" value="true" />
<property name="testOnReturn" value="true" />
</bean>
<!-- jedis连接池配置 -->
<!-- <bean id="jedisPool" class="redis.clients.jedis.JedisSentinelPool">
<constructor-arg index="" value="mymaster" />
<constructor-arg index="">
<set>
<value>192.168.8.50:</value>
</set>
</constructor-arg>
<constructor-arg index="" ref="jedisPoolConfig" />
</bean> -->
<!-- 自定义分片处理哨兵池配置 -->
<bean id="shardedJedisPool" class="com.yto.demo.java.jedis.spring.sentinel.pool.ShardedJedisSentinelPool">
<constructor-arg index="" ref="jedisPoolConfig" />
<constructor-arg index="">
<list>
<value>mymaster</value> <!-- 集群1 -->
<value>mymaster02</value> <!-- 集群2 --> </list>
</constructor-arg>
<constructor-arg index="">
<set>
<value>192.168.8.50:</value>
<value>192.168.8.50:</value>
</set>
</constructor-arg>
</bean>
<!-- 自定义抽象jedis 信息 -->
<bean id="redisDataSource" class="com.yto.demo.java.jedis.spring.api.impl.RedisSharedSentinelDataSourceImpl">
<property name="shardedJedisPool" ref="shardedJedisPool"></property>
</bean> <bean id="redisClientTemplate" class="com.yto.demo.java.jedis.spring.client.RedisSharedSentinelClientTemplate">
<property name="redisDataSource" ref="redisDataSource"></property>
</bean> </beans>
ShardedJedisSentinelPool这个代码自己去git上面拿下来吧!!至于里面有没有bug我还没仔细去看里面的代码,但是确实支持主从+分片了。。