Redis面试常问4-- 如何实现异步队列 Blpop key timeout

时间:2024-04-06 18:22:04

感谢老王的思路
作者:老王的博客
来源:CSDN
原文:https://blog.csdn.net/wzbwzh/article/details/82876299
版权声明:本文为博主原创文章,转载请附上博文链接!

异步消息队列

Redis 的 list(列表) 数据结构常用来作为异步消息队列使用,
使用rpush/lpush操作入队列,使用lpop 和 rpop来出队列。
rpush 和 lpop 结合 或者lpush 和rpop 结合;
Redis面试常问4-- 如何实现异步队列 Blpop key timeout
客户端是通过队列的 pop 操作来获取消息,然后进行处理。处理完了再接着获取消息,再进行处理。
如此循环往复,这便是作为队列消费者的客户端的生命周期。

问题1—rpush 和 lpop 带来的 空轮询

可是如果队列空了,客户端就会陷入 pop 的死循环,不停地 pop,没有数据,接着再 pop,又没有数据。
这就是浪费生命的空轮询。
空轮询不但拉高了客户端的 CPU,redis 的 QPS 也会被拉高,如果这样空轮询的客户端有几十来个,Redis 的慢查询可能会显著增多。
通常我们使用 sleep 来解决这个问题,让线程睡一会,睡个 1s 钟就可以了。不但客户端的 CPU 能降下来,Redis 的 QPS 也降下来了。

1 解决空轮询,加入Sleep弥补机制。

Redis面试常问4-- 如何实现异步队列 Blpop key timeout

------------------------------但是加入 Sleep机制重试也是有问题----------:

Redis面试常问4-- 如何实现异步队列 Blpop key timeout

2 加入Sleep弥补机制,还是会有个小问题:延迟时间

用上面睡眠的办法可以解决问题。但是有个小问题,那就是睡眠会导致消息的延迟增大。如果只有 1 个消费者,那么这个延迟就是 1s。如果有多个消费者,这个延迟会有所下降,因为每个消费者的睡觉时间是岔开来的。

有没有什么办法能显著降低延迟呢?你当然可以很快想到:那就把睡觉的时间缩短点。这种方式当然可以,不过有没有更好的解决方案呢?当然也有,那就是 blpop/brpop。 这两个指令的前缀字符b代表的是blocking,也就是阻塞读。 阻塞读在队列没有数据的时候,会立即进入休眠状态,一旦数据到来,则立刻醒过来。消息的延迟几乎为零。用blpop/brpop替代前面的lpop/rpop,就完美解决了上面的问题

2 解决延迟问题,用 blpop/brpop 阻塞读 的方法Redis面试常问4-- 如何实现异步队列 Blpop key timeout

实验如下:左边 blpop testlist 30 等待30秒看看队列有没有数据,没有则返回nil

Redis面试常问4-- 如何实现异步队列 Blpop key timeout

3 新的问题:阻塞带来的空闲连接的问题

空闲连接自动断开 你以为上面的方案真的很完美么?先别急着开心,其实他还有个问题需要解决。 什么问题?—— 空闲连接的问题。 如果线程一直阻塞在哪里,Redis 的客户端连接就成了闲置连接,闲置过久,服务器一般会主动断开连接,减少闲置资源占用。这个时候blpop/brpop会抛出异常来。

所以编写客户端消费者的时候要小心,注意捕获异常,还要重试

附加的问题1:只能供一个消费者消费 – 发布订阅解决

Redis面试常问4-- 如何实现异步队列 Blpop key timeout
Redis面试常问4-- 如何实现异步队列 Blpop key timeout
Redis面试常问4-- 如何实现异步队列 Blpop key timeout

附加的问题2:无法保证消息可达:

Redis面试常问4-- 如何实现异步队列 Blpop key timeout

消息可达问题的话:需要用专门的消息中间件:如 Kafka

总结:生产消息时用 blpop,消费者消费消息时,try catch 一下,但是这种情况只能供一个消息者消费。 用pub/sub来解决即可 生产消息时用 blpop,消费者消费消息时,try catch 异常。但是这种情况只能供一个消息者消费。 用pub/sub来解决,但是也是会有消息可达性无法保证的问题,这时要用Kafka.