玩转Redis—如何高效访问Redis中的海量数据
wptr33 2024-12-31 15:02 42 浏览
推荐阅读:
1、前言
??Redis以高性能著称,但性能再好,在面对海量数据时,若不正确的使用,也终将会有性能瓶颈,甚至造成服务宕机。
在实际项目中你是否会有以下疑问?
- 如何访问Redis中的海量数据,却不影响其他请求访问Redis?
- Redis中有百万/千万数据,如何高效访问?
- Redis中数据量太大,如何既保证快速访问,又不至于使服务宕机?
以上问题亦是Redis面试的高频问题。
2、思考
Q1:为什么Redis中的数据量很大时,某些数据操作会导致Redis卡顿,甚至宕机?
A1:Redis是单线程服务,所有指令都是顺序执行,当某一指令耗时很长时,就会阻塞后续的指令执行。当被积压的指令越来越多时,Redis服务占用CPU将不断升高,最终导致Redis实例崩溃甚至服务器宕机。
Q2:利用万能的keys命令查询任何想查的数据?
A2:自己电脑几万条数据玩玩就好了,线上使用keys命令,Excuse me?你想卷铺盖走人了吧。
++“某公司php工程师执行redis keys * 导致数据库宕机! 技术部发生2起本年度PO级特大事故,造成公司资金损失400万。”++ 这条新闻记忆犹新,警钟长鸣!
Q3:Redis中海量数据的正确操作方式
A3:利用SCAN系列命令(SCAN、SSCAN、HSCAN、ZSCAN)完成数据迭代。
??Redis的【SCAN系列命令】你了解多少呢?
3、SCAN系列命令详解
??SCAN系列命令,并不单纯指代SCAN命令,还包含SSCAN、HSCAN、ZSCAN,每种命令操作对象是有区别的,但用法及功能基本相同。
3.1、SCAN系列命令对比分析
- cursor:迭代游标;
- MATCH:数据匹配模式;
- COUNT:迭代返回数量;
3.2、SCAN系列命令注意事项
- SCAN的参数没有key,因为其迭代对象是DB内数据;
- 返回值都是数组,第一个值都是下一次迭代游标;
- 时间复杂度:每次请求都是O(1),完成所有迭代需要O(N),N是元素数量;
- 可用版本:version >= 2.8.0;
3.3、SCAN系列命令详解
3.3.1、 增量迭代,可用于生产环境
- 并不像KEYS、SMEMBERS一样是全量迭代,对大集合执行时可能阻塞服务很长时间;
3.3.2、不保证准确结果
- SMEMBERS可以返回整个set的元素,而SCAN这类增量迭代命令可能出现迭代过程中元素被改变,所以并不能保证准确的返回结果;
3.3.3、基于游标迭代
- SCAN基于游标迭代,每次请求将返回下一次需要使用的游标;
- 游标cursor可以比DB元素总量大,可以为负数;
- 错误游标:使用间断(不是迭代返回的)、负数、超出范围或其他非法游标,迭代不会报错,可能产生未定义行为(无法保证准确性);
3.3.4、迭代结束标记
- SCAN返回的游标不一定递增,某次迭代返回的元素数量可能为0;
- 返回元素列表为空,不代表迭代结束;
- 一个完整的迭代:SCAN游标从0开始,返回游标为0结束;
- 迭代状态由返回的游标控制。可以并发执行迭代;可随时终止迭代;
3.3.5、迭代完整性
- 遍历开始到遍历结束一直存在的数据,一定能被迭代返回;
- 同一个元素可能返回多次,数据去重应由应用程序完成;
- 在迭代过程中增删的元素,可能返回,可能不返回;
- 当数据类型是sets(由integer组成)、hashes、sorted sets且集合较小时,迭代将返回整个集合的数据,与count无关;
- 迭代结束保证:元素添加速率小于迭代速率。
3.3.6、why有时迭代直接返回整个集合
- 底层数据结构是hash时,如果数据量较小,Redis有内存优化策略,会使用紧凑的压缩编码。此时SCAN操作并不是返回有意义的游标,而是迭代整个集合;
- 数据量较小?参见官方memory-optimization(内存优化)说明。
3.3.7、参数count说明
- count默认值是10;
- 数据集较大时,如果没有使用match,返回元素为count或比count略大;
- 每次迭代的count参数值可以不同,只要使用上次迭代返回的游标即可;
3.3.8、参数match说明
- 和keys的pattern类似;
- MATCH操作是在检索出数据到返回元素前的期间执行,所以如果被匹配的元素较少,那么可能多次迭代返回的元素列表均为空;
4、SCAN系列命令示例
4.1、SCAN示例
??详见《5.2、部分问题解答》
4.2、SSCAN示例
// SSCAN示例 @zxiaofan 127.0.0.1:6378> SADD sscantest sscantest:1 1 sscantest:2 2 sscantest:3 3 sscantest:4 4 sscantest:1a 1a sscantest:2a 2a sscantest:1ab 1ab sscantest:a1 a1 sscantest:aa1 aa1 (integer) 0 // MATCH ?:无匹配数据 127.0.0.1:6378> SSCAN sscantest 0 MATCH ? COUNT 1 1) "24" 2) (empty list or set) 127.0.0.1:6378> SSCAN sscantest 24 MATCH ? COUNT 1 1) "20" 2) (empty list or set) 127.0.0.1:6378> SSCAN sscantest 0 MATCH * COUNT 1 1) "24" 2) 1) "sscantest:3" 2) "sscantest:2a" 127.0.0.1:6378> SSCAN sscantest 24 MATCH * COUNT 1 1) "20" 2) 1) "a1"
4.3、HSCAN示例
// HSCAN示例 @zxiaofan 127.0.0.1:6378> HMSET hscantest hscantest:1 1 hscantest:2 2 hscantest:3 3 hscantest:4 4 hscantest:1a 1a hscantest:2a 2a hscantest:1ab 1ab hscantest:a1 a1 hscantest:aa1 aa1 OK 127.0.0.1:6378> HSCAN hscantest 0 MATCH hscantest*a COUNT 20 1) "0" 2) 1) "hscantest:1a" 2) "1a" 3) "hscantest:2a" 4) "2a" 127.0.0.1:6378> HSCAN hscantest 0 MATCH hscantest*a COUNT 2 1) "0" 2) 1) "hscantest:1a" 2) "1a" 3) "hscantest:2a" 4) "2a" 127.0.0.1:6378>
??从HSCAN示例可以看出,即使count参数为2,也返回了所有匹配的结果。这就是先前提到的,数据量较小时,直接返回所有数据。
4.4、ZSCAN示例
// ZSCAN示例 @zxiaofan // 【移除】并弹出count个分数最大的元素,count默认为1 127.0.0.1:6378> ZPOPMAX zscantest 20 1) "sscantest:1ab" 2) "6" 3) "sscantest:2a" 4) "5" 5) "sscantest:1a" 6) "4" 7) "sscantest:3" 8) "3" 9) "zscantest:1" 10) "2" 11) "sscantest:2" 12) "2" 13) "test1" 14) "1" 15) "sscantest:1" 16) "1" 127.0.0.1:6378> ZPOPMAX zscantest 20 (empty list or set) 127.0.0.1:6378> ZADD zscantest 1 zscantest:1 2 zscantest:2 3 zscantest:3 4 zscantest:1a 5 zscantest:2a 6 zscantest:1ab 7 zscantest:a1 8 zscantest:aa1 (integer) 8 // NX:不存在才添加;CH:返回被改变(含新增)的元素个数 127.0.0.1:6378> ZADD zscantest NX CH 1 test1 2 zscantest:1 (integer) 1 127.0.0.1:6378> ZSCAN zscantest 0 MATCH *a COUNT 5 1) "0" 2) 1) "zscantest:1a" 2) "4" 3) "zscantest:2a" 4) "5" 127.0.0.1:6378>
5、总结
5.1、看看面试时你能答上几个问题
- SCAN迭代可以并发吗?
- SCAN返回数据为空就是迭代结束了吗?
- 如果首次迭代cursor参数不是0,能实现完整迭代吗?
- 可以严格控制每次迭代返回的数据量吗?
- 迭代返回的数据一定完整吗?
- 为什么迭代返回的元素列表可能为空?
5.2、部分问题解答
5.2.1、SCAN返回数据为空就是迭代结束了吗
// SCAN返回数据为空就是迭代结束了吗? @zxiaofan 127.0.0.1:6378> keys k? 1) "k1" 2) "k2" 127.0.0.1:6378> SCAN 0 MATCH k? 1) "88" 2) (empty list or set) 127.0.0.1:6378> SCAN 88 MATCH k? 1) "34" 2) 1) "k1" 127.0.0.1:6378> SCAN 34 MATCH k? 1) "122" 2) (empty list or set) 127.0.0.1:6378> SCAN 122 MATCH k? 1) "14" 2) (empty list or set) 127.0.0.1:6378> SCAN 14 MATCH k? 1) "33" 2) (empty list or set) 127.0.0.1:6378> SCAN 33 MATCH k? 1) "53" 2) (empty list or set) 127.0.0.1:6378> SCAN 53 MATCH k? 1) "93" 2) (empty list or set) 127.0.0.1:6378> SCAN 93 MATCH k? 1) "107" 2) 1) "k2" 127.0.0.1:6378> SCAN 107 MATCH k? 1) "79" 2) (empty list or set) 127.0.0.1:6378> SCAN 79 MATCH k? 1) "0" 2) (empty list or set) 127.0.0.1:6378>
??看上述示例,匹配“k?”的数据实际有2条“k1”、“k2”,在整个迭代过程中,多次返回数据为空,但是迭代未曾结束(因为“k1”、“k2”没有全部迭代返回)。
??所以,只有当游标返回为0时,才能说明迭代结束了。
5.2.2、如果首次迭代cursor参数不是0,能实现完整迭代吗?
// 如果首次迭代cursor参数不是0,能实现完整迭代吗? @zxiaofan 127.0.0.1:6378> keys k? 1) "k1" 2) "k2" 127.0.0.1:6378> SCAN 66 MATCH k? 1) "122" 2) (empty list or set) 127.0.0.1:6378> SCAN 122 MATCH k? 1) "14" 2) (empty list or set) 127.0.0.1:6378> SCAN 14 MATCH k? 1) "33" 2) (empty list or set) 127.0.0.1:6378> SCAN 33 MATCH k? 1) "53" 2) (empty list or set) 127.0.0.1:6378> SCAN 53 MATCH k? 1) "93" 2) (empty list or set) 127.0.0.1:6378> SCAN 93 MATCH k? 1) "107" 2) 1) "k2" 127.0.0.1:6378> SCAN 107 MATCH k? 1) "79" 2) (empty list or set) 127.0.0.1:6378> SCAN 79 MATCH k? 1) "0" 2) (empty list or set) 127.0.0.1:6378>
??看上述示例,匹配“k?”的数据实际有2条“k1”、“k2”,当第一次SCAN使用cursor为66,我们可以发现经过多次迭代,游标返回为0时,“k1”一直未曾被迭代返回。
??所以,如果首次迭代cursor参数不是0,不能实现完整迭代。
??完整迭代必须是游标从0开始,游标到0结束。
6、后记
??本文针对Redis的SCAN系列命令做了详细的对比分析以及实际使用示例,并整理了面试中的高频问题。建议阅读本文的同学实际动手练习下,效果更好。
作者:zxiaofan
链接:https://juejin.im/post/5dd10fde518825291f38e7a8
相关推荐
- [常用工具] git基础学习笔记_git工具有哪些
-
添加推送信息,-m=messagegitcommit-m“添加注释”查看状态...
- centos7安装部署gitlab_centos7安装git服务器
-
一、Gitlab介1.1gitlab信息GitLab是利用RubyonRails一个开源的版本管理系统,实现一个自托管的Git项目仓库,可通过Web界面进行访问公开的或者私人项目。...
- 太高效了!玩了这么久的Linux,居然不知道这7个终端快捷键
-
作为Linux用户,大家肯定在Linux终端下敲过无数的命令。有的命令很短,比如:ls、cd、pwd之类,这种命令大家毫无压力。但是,有些命令就比较长了,比如:...
- 提高开发速度还能保证质量的10个小窍门
-
养成坏习惯真是分分钟的事儿,而养成好习惯却很难。我发现,把那些对我有用的习惯写下来,能让我坚持住已经花心思养成的好习惯。...
- 版本管理最好用的工具,你懂多少?
-
版本控制(Revisioncontrol)是一种在开发的过程中用于管理我们对文件、目录或工程等内容的修改历史,方便查看更改历史记录,备份以便恢复以前的版本的软件工程技术。...
- Git回退到某个版本_git回退到某个版本详细步骤
-
在开发过程,有时会遇到合并代码或者合并主分支代码导致自己分支代码冲突等问题,这时我们需要回退到某个commit_id版本1,查看所有历史版本,获取git的某个历史版本id...
- Kubernetes + Jenkins + Harbor 全景实战手册
-
Kubernetes+Jenkins+Harbor全景实战手册在现代企业级DevOps体系中,Kubernetes(K8s)、Jenkins和Harbor组成的CI/CD流水...
- git常用命令整理_git常见命令
-
一、Git仓库完整迁移完整迁移,就是指,不仅将所有代码移植到新的仓库,而且要保留所有的commit记录1.随便找个文件夹,从原地址克隆一份裸版本库...
- 第三章:Git分支管理(多人协作基础)
-
3.1分支基本概念分支是Git最强大的功能之一,它允许你在主线之外创建独立的开发线路,互不干扰。理解分支的工作原理是掌握Git的关键。核心概念:HEAD:指向当前分支的指针...
- 云效Codeup怎么创建分支并进行分支管理
-
云效Codeup怎么创建分支并进行分支管理,分支是为了将修改记录分叉备份保存,不受其他分支的影响,所以在同一个代码库里可以同时进行多个修改。创建仓库时,会自动创建Master分支作为默认分支,后续...
- git 如何删除本地和远程分支?_git怎么删除远程仓库
-
Git分支对于开发人员来说是一项强大的功能,但要维护干净的存储库,就需要知道如何删除过时的分支。本指南涵盖了您需要了解的有关本地和远程删除Git分支的所有信息。了解Git分支...
- git 实现一份代码push到两个git地址上
-
一直以来想把自己的博客代码托管到github和coding上想一次更改一次push两个地址一起更新今天有空查资料实践了下本博客的github地址coding的git地址如果是Gi...
- git操作:cherry-pick和rebase_git cherry-pick bad object
-
在编码中经常涉及到分支之间的代码同步问题,那就需要cherry-pick和rebase命令问题:如何将某个分支的多个commit合并到另一个分支,并在另一个分支只保留一个commit记录解答:假设有两...
- 模型文件硬塞进 Git,GitHub 直接打回原形:使用Git-LFS管理大文件
-
前言最近接手了一个计算机视觉项目代码是屎山就不说了,反正我也不看代码主要就是构建一下docker镜像,测试一下部署的兼容性这本来不难但是,国内服务器的网络环境实在是恶劣,需要配置各种镜像(dock...
- 防弹少年团田柾国《Euphoria》2周年 获世界实时趋势榜1位 恭喜呀
-
当天韩国时间凌晨3时左右,该曲在Twitter上以“2YearsWithEuphoria”的HashTag登上了世界趋势1位。在韩国推特实时趋势中,从上午开始到现在“Euphoria2岁”的Has...
- 一周热门
-
-
C# 13 和 .NET 9 全知道 :13 使用 ASP.NET Core 构建网站 (1)
-
程序员的开源月刊《HelloGitHub》第 71 期
-
详细介绍一下Redis的Watch机制,可以利用Watch机制来做什么?
-
假如有100W个用户抢一张票,除了负载均衡办法,怎么支持高并发?
-
Java面试必考问题:什么是乐观锁与悲观锁
-
如何将AI助手接入微信(打开ai手机助手)
-
SparkSQL——DataFrame的创建与使用
-
redission YYDS spring boot redission 使用
-
一文带你了解Redis与Memcached? redis与memcached的区别
-
如何利用Redis进行事务处理呢? 如何利用redis进行事务处理呢英文
-
- 最近发表
- 标签列表
-
- git pull (33)
- git fetch (35)
- mysql insert (35)
- mysql distinct (37)
- concat_ws (36)
- java continue (36)
- jenkins官网 (37)
- mysql 子查询 (37)
- python元组 (33)
- mybatis 分页 (35)
- vba split (37)
- redis watch (34)
- python list sort (37)
- nvarchar2 (34)
- mysql not null (36)
- hmset (35)
- python telnet (35)
- python readlines() 方法 (36)
- munmap (35)
- docker network create (35)
- redis 集合 (37)
- python sftp (37)
- setpriority (34)
- c语言 switch (34)
- git commit (34)