浅谈用Redis实现分布式锁的方案及细节
wptr33 2025-01-05 20:32 15 浏览
前言
我们都知道,在面对并发问题时,有加锁操作和保证原子操作两种解决方案。当我们采用加锁操作的时候,因为Redis多采用集群的方式部署,因此我们就需要考虑到锁在分布式系统中使用的注意事项。接下来就看看Redis的分布式锁问题。
单机锁
说到分布式锁,首先我们得了解【单机锁】。单机锁比较简单,不用考虑分布式系统中各个服务的资源、网络等差异。
单机锁使用起来也很简单,用一个变量就能实现锁必备的互斥功能。比如设置一个锁变量lock,当lock=0时,说明锁空闲着;当lock=1时,说明此时锁被某个线程占用了。在进行互斥操作时先获取lock的值,只有lock=0才能继续,当操作完成后,再将锁释放出来。
对分布式锁的要求
既然单机锁这么简单,为什么分布式锁就很复杂呢?
上面将单机锁的时候也有提到,分布式锁用于分布式系统中,系统中每台服务器的资源、网络状况都不同,我们需要在不同的服务器存储锁变量。锁的操作(加锁、释放锁)在不同的情况下,就会衍生出相应的问题。
我们对分布式锁的要求很简单,总结就是:
- 锁操作(加锁、释放锁),需要保证锁操作的原子性。
- 分布式系统,要考虑到系统故障的场景。当某些服务器实例发生故障时,要保证分布式锁能正常使用。
如图,多个进程同时请求对mysql某个数据操作,首先要去获取分布式锁。图例中只有进程1获取到锁,因此加锁后进行下一步的操作;而其他2个进程因为没有获取到锁不能往下操作,这样就做到了互斥。
分布式锁,实现的方式有很多,也就是需要在一个系统中维护锁变量lock。而基于性能的考量,选择Redis作为分布式锁的场景很常见。
Redis单个节点分布式锁的实现
要实现分布式锁,首要的就是保证操作的互斥性。在Redis中有SETNX命令,这个命令的含义是:若key不存在,才去设置它的值;key存在的话就不操作。
这样一来,分布式系统的多个客户端可通过该命令达到互斥的要求。
如上面图例:
- 客户端a在要更新mysql资源时,先向Redis分布式锁申请加锁,也就是执行SETNX lock 1,加锁成功。
- 客户端b也申请加锁,但被客户端a已经加锁了,因此加锁失败,不往下执行。
- 客户端a加锁成功后,更新MySQL操作。操作完成后,再删除lock变量DEL lock。
整个过程就是这样,但是我们再仔细想想就会发现这种方式有个很大的漏洞。那就是当客户端a加锁成功后,如果在操作mysql的过程中发生异常了,锁就不会释放。这样也就死锁了,其他的客户端都别想拿到锁了。
这个死锁的问题,你可能会说解决起来也不麻烦,给锁加个过期时间不就行了。于是乎,操作命令变成了这样:
127.0.0.1:6379> SETNX lock 1
(integer) 1
127.0.0.1:6379> EXPIRE lock 5
(integer) 1
复制代码
经过EXPIRE操作后,就不用担心锁不释放的问题了。
但我们仔细想想,这里加锁和给锁设置过期时间是分为2步走的,也就是说不是原子性操作,如果执行完上锁操作后,如果还没来得及给锁设置过期时间客户端就异常了,这样也会造成死锁。
因此,将这2条命令原子化才是关键。庆幸的是,SET命令支持将这2步一次性执行了(Redis版本要>=2.6.12)。命令示例:
127.0.0.1:6379> SET lock 1 EX 5 NX
OK
复制代码
这样一来,死锁的问题解决了。但你认为这样就万事大吉了吗?显然不是,有一个场景还需要考虑到,那就是:锁过期时间到了被自动释放后,等客户端正常操作完成后,又会去释放锁。具体来说如下:
- 客户端a申请锁lock成功,然后更新MySQL去了;
- 因为mysql连接问题,客户端a更新操作,超过了设定的过期时间,于是lock被自动释放了;
- 客户端b这时申请lock成功,也开始更新MySQL了;
- MySQL连接正常了,客户端a更新MySQL完成,然后释放锁lock。(此时lock正在被客户端b用着呢)。
这种场景下,锁过期了被释放会被其他的客户端加锁成功,然后客户端a成功更新MySQL后又会去释放客户端b的锁。
总结来说这种场景存在2个问题:
- 设置的过期时间不合理:我还没操作完你就让锁过期了。导致这种情况的原因有很多,单单增加锁的过期时间并不能完全解决问题。因为网络状况、代码操作逻辑异常都影响到过期时间。
- 释放了别的进程锁:最后一步客户端a释放了别的客户端的锁,这种情况是不应该发生的。解决方法如下。
如何避免释放了别的进程锁
解决方法简单,在获取到锁时,写入唯一标识就可以了。比如说线程ID。
127.0.0.1:6379> set lock {thread_id} ex 5 nx
OK
复制代码
当要释放锁的时候,先判断一下锁的唯一标识,这样就可以避免释放别的进程锁。
redis_client.del('lock') if redis_client.get('lock') == {thread_id}
复制代码
但上述命令是分2步走的(查询+删除),为了保证原子性,我们可以用Lua脚本来执行上述命令。脚本可以这样写:
if redis.call("GET", KEYS[1]) == ARGV[1]
then
return redis.call("DEL", KEYS[1])
else
return 0
end
复制代码
调用脚本命令就是:redis-cli --eval lua.script lock, {thread_id}。
备注:Redis使用lua脚本的语法是:
redis-cli --eval {lua_path} KEYS[1] KEYS[2]... , ARGV[1] ARGV[2]...
--eval: 执行lua脚本的命令
{lua_path}: lua脚本的路径
KEYS[1] KEYS[2]: lua脚本中要操作的redis键,我们可以在lua脚本中用KEYS[1],KEYS[2],KEYS[3]指定多个
ARGV[1] ARGV[2]: 传入到lua脚本的参数,在脚本中用ARGV[1],ARGV[2]...来获取。
复制代码
这样一来,Redis分布式锁的实现,除了上述过期时间不好把握外,基本能满足要求。
我们使用Redis做分布式锁的步骤可总结为:
- 获取锁: SET lock {唯一标识} EX {过期时间} NX
- 更新操作:比如说更新mysql资源。
- 释放锁资源:用lua脚本判断锁是不是自己加的,是的话再释放锁( DEL lock )
锁过期时间怎么设定才好
锁的过期时间,如果设置的不合理,自动过期的可能性就会大大增加。
在解决这个问题上,Java中有个SDK叫做Redisson。 它在使用分布式锁时,加锁的同时有开启一个看门狗线程。这个线程会定时去检查锁的过期时间,若锁快过期了,而更新操作还没完成,看门狗会延长锁的过期时间,也就是重新设置过期时间。
如果不使用Java语言,我们也可借鉴Redisson的做法,在加锁的同时开启一个守护线程。
Redis单个节点的分布式锁实现就说到这,接下来看看Redis多个节点该图和实现分布式锁。
Redis多个节点的分布式锁(Redlock方案)
Redis的使用,往往不是单机用,用主从集群的模式部署最多。而在该模式下,分布式锁的使用会带来新的问题。比如下面场景:
- 客户端a在主库上执行加锁命令(SET)成功。
- 主库发生故障,而步骤1的SET命令还没来得及同步到从库上。
- 主从切换后,原从库被推举为主库,锁就在节点上丢失了。
为解决这个问题,Redis提供了Redlock方案。要使用Redlock方案,要有2个前提:
- 只部署主库,不部署从库及哨兵。
- 主库部署多个,官方推荐>=5个。
Redlock的使用流程大致如下:
- 客户端获取到当前的时间戳。
- 客户端按顺序向部署的N个Redis实例执行加锁操作。在设定时间内,不管加锁成功还是失败,都会继续向下一个实例申请加锁操作。
- 若加锁成功的实例个数>= (N/2) + 1,并且加锁的总耗时要<锁设定的过期时间,Redlock就判断加锁成功,反之就是加锁失败。
- 加锁成功了,就继续往下操作,比如操作MySQL资源;若加锁失败,则会向所有节点发起锁释放的操作请求。
由上面流程可见,Redlock的设计规则就是:
- 客户端要在所有实例上申请加锁,只有保证大多数节点加锁成功了才判定为加锁成功。
- 加锁的总耗时要 < 锁设定的过期时间。
- 释放锁的时候,要向所有节点发起锁释放的请求,不管之前加锁是否成功。
Redlock的应用,可以提升Redis分布式锁的可靠性。但是,Redlock并非没有缺陷和漏洞。
业界的分布式系统专家Martin就曾质疑过Redlock的设计方案,主要是提到了Redlock的效率和正确性。效率不用多说,给全部节点发起加锁的规则就会影响效率。
正确性方面,因为分布式系统中,时钟偏移的情况无法避免,运维成本很高。
总的来说,Redlock设计繁杂,还得部署多个节点,运维难度大。我们在实现Redis分布式锁的时候,用主从+哨兵的集群方案就基本够用了。
小结
本文讲了Redis是如何实现分布式锁的,单个Redis节点和多节点的实现和问题是不一样的。
在使用的时候,如果追求效率,单节点的分布式锁就够用了,缺点就是过期时间不好把握,因为网络情况不好预估;如果要保证正确性,Redlock也是可以考虑的,但运维方面的问题需要提前考虑好。
原文链接:https://juejin.cn/post/7173508599669833759
来源:稀土掘金
- 上一篇:Redis原理—5.性能和使用总结
- 下一篇:面试题分享:Redis怎么实现分布式锁
相关推荐
- Python自动化脚本应用与示例(python办公自动化脚本)
-
Python是编写自动化脚本的绝佳选择,因其语法简洁、库丰富且跨平台兼容性强。以下是Python自动化脚本的常见应用场景及示例,帮助你快速上手:一、常见自动化场景文件与目录操作...
- Python文件操作常用库高级应用教程
-
本文是在前面《Python文件操作常用库使用教程》的基础上,进一步学习Python文件操作库的高级应用。一、高级文件系统监控1.1watchdog库-实时文件系统监控安装与基本使用:...
- Python办公自动化系列篇之六:文件系统与操作系统任务
-
作为高效办公自动化领域的主流编程语言,Python凭借其优雅的语法结构、完善的技术生态及成熟的第三方工具库集合,已成为企业数字化转型过程中提升运营效率的理想选择。该语言在结构化数据处理、自动化文档生成...
- 14《Python 办公自动化教程》os 模块操作文件与文件夹
-
在日常工作中,我们经常会和文件、文件夹打交道,比如将服务器上指定目录下文件进行归档,或将爬虫爬取的数据根据时间创建对应的文件夹/文件,如果这些还依靠手动来进行操作,无疑是费时费力的,这时候Pyt...
- python中os模块详解(python os.path模块)
-
os模块是Python标准库中的一个模块,它提供了与操作系统交互的方法。使用os模块可以方便地执行许多常见的系统任务,如文件和目录操作、进程管理、环境变量管理等。下面是os模块中一些常用的函数和方法:...
- 21-Python-文件操作(python文件的操作步骤)
-
在Python中,文件操作是非常重要的一部分,它允许我们读取、写入和修改文件。下面将详细讲解Python文件操作的各个方面,并给出相应的示例。1-打开文件...
- 轻松玩转Python文件操作:移动、删除
-
哈喽,大家好,我是木头左!Python文件操作基础在处理计算机文件时,经常需要执行如移动和删除等基本操作。Python提供了一些内置的库来帮助完成这些任务,其中最常用的就是os模块和shutil模块。...
- Python 初学者练习:删除文件和文件夹
-
在本教程中,你将学习如何在Python中删除文件和文件夹。使用os.remove()函数删除文件...
- 引人遐想,用 Python 获取你想要的“某个人”摄像头照片
-
仅用来学习,希望给你们有提供到学习上的作用。1.安装库需要安装python3.5以上版本,在官网下载即可。然后安装库opencv-python,安装方式为打开终端输入命令行。...
- Python如何使用临时文件和目录(python目录下文件)
-
在某些项目中,有时候会有大量的临时数据,比如各种日志,这时候我们要做数据分析,并把最后的结果储存起来,这些大量的临时数据如果常驻内存,将消耗大量内存资源,我们可以使用临时文件,存储这些临时数据。使用标...
- Linux 下海量文件删除方法效率对比,最慢的竟然是 rm
-
Linux下海量文件删除方法效率对比,本次参赛选手一共6位,分别是:rm、find、findwithdelete、rsync、Python、Perl.首先建立50万个文件$testfor...
- Python 开发工程师必会的 5 个系统命令操作库
-
当我们需要编写自动化脚本、部署工具、监控程序时,熟练操作系统命令几乎是必备技能。今天就来聊聊我在实际项目中高频使用的5个系统命令操作库,这些可都是能让你效率翻倍的"瑞士军刀"。一...
- Python常用文件操作库使用详解(python文件操作选项)
-
Python生态系统提供了丰富的文件操作库,可以处理各种复杂的文件操作需求。本教程将介绍Python中最常用的文件操作库及其实际应用。一、标准库核心模块1.1os模块-操作系统接口主要功能...
- 11. 文件与IO操作(文件io和网络io)
-
本章深入探讨Go语言文件处理与IO操作的核心技术,结合高性能实践与安全规范,提供企业级解决方案。11.1文件读写11.1.1基础操作...
- Python os模块的20个应用实例(python中 import os模块用法)
-
在Python中,...
- 一周热门
-
-
C# 13 和 .NET 9 全知道 :13 使用 ASP.NET Core 构建网站 (1)
-
因果推断Matching方式实现代码 因果推断模型
-
git pull命令使用实例 git pull--rebase
-
面试官:git pull是哪两个指令的组合?
-
git 执行pull错误如何撤销 git pull fail
-
git pull 和git fetch 命令分别有什么作用?二者有什么区别?
-
git fetch 和git pull 的异同 git中fetch和pull的区别
-
git pull 之后本地代码被覆盖 解决方案
-
还可以这样玩?Git基本原理及各种骚操作,涨知识了
-
git命令之pull git.pull
-
- 最近发表
- 标签列表
-
- git pull (33)
- git fetch (35)
- mysql insert (35)
- mysql distinct (37)
- concat_ws (36)
- java continue (36)
- jenkins官网 (37)
- mysql 子查询 (37)
- python元组 (33)
- mybatis 分页 (35)
- vba split (37)
- redis watch (34)
- python list sort (37)
- nvarchar2 (34)
- mysql not null (36)
- hmset (35)
- python telnet (35)
- python readlines() 方法 (36)
- munmap (35)
- docker network create (35)
- redis 集合 (37)
- python sftp (37)
- setpriority (34)
- c语言 switch (34)
- git commit (34)