百度360必应搜狗淘宝本站头条
当前位置:网站首页 > IT技术 > 正文

redis 生产环境如何有效查找哪些无过期时间的 key

wptr33 2024-12-25 16:02 36 浏览

在项目中,Redis 不应该被当作传统数据库来使用;储存大量没有过期时间的数据。如果储存大量无过期时间,而且无效的key的话;再加上 Redis 本身的过期策略没有被正确设置,就会大量占用内存。这样就会导致再多的内存资源也不够用。最近在项目中,就遇到这样的情况。

情况大致是这样,项目中采用 Redis 二级存储(自己造的一个概念)。大概的意思就是先使用 UUID 生成一个 uuid 作为 value;这个 uuid 作为一个版本 id;存到缓存 key 为 ACL_CACHE_VERSION_KEY 中,即

SET ACL_CACHE_VERSION_KEY uuid

然后在不 uuid 作为另外一个key的一部分。即 ACL_USER_ + uuid,比如 uuid 的值为 26a26b84-578d-40bf-ab15-aeb188a56393,则key 为ACL_USER_26a26b84-578d-40bf-ab15-aeb188a56393,缓存到 key 的数据为

HMSET ACL_USER_26a26b84-578d-40bf-ab15-aeb1 id1 12345 id2 45678

因为 ACL_USER_26a26b84-578d-40bf-ab15-aeb188a56393 的是否过期是通过程序中生成新版本的 uuid,存储新的用户权限数据后;在程序中删除。因为程序的不健壮,导致有大量过期的版本没有及时删除。经过长年的积累导致 Redis 存在大量这些无效版本的 key。

在测试环境中,可以使用 keys 命令,模糊查询到需要的 key,但这个操作只适合在测试环境中使用,不适合在生产环境中使用,原因是 Redis 是单线程运行的,当 Redis 中的数据量很大时,由于此操作会遍历所有数据,并将结果一次性全部返回,执行时间会比较长,从而导致后续操作等待,直接影响系统的正常运行。解决的办法是使用scan命令:

scan cursor [MATCH pattern] [COUNT count]
  • cursor:表示游标,从 0 开始,此命令执行完后会返回一个新的 cursor值。如果cursor!="0",则表示还有 key 未返回,需要再调用 scan,并使用此新的 cursor 值,来获取下一批 key;如果cursor=="0",则表示遍历结束。
  • pattern:表示模糊匹配的样式
  • count:表示一批最多返回多少条记录,默认为10

集群环境下使用 jedis 的代码实现

import java.util.HashSet;
import java.util.Set;
import redis.clients.jedis.HostAndPort;
import redis.clients.jedis.JedisCluster;
import redis.clients.jedis.JedisPoolConfig;
import redis.clients.jedis.ScanParams;
import redis.clients.jedis.ScanResult;
public class RedisTester {
    public static JedisCluster getJedisCluster() {
        JedisPoolConfig config = new JedisPoolConfig();
        config = new JedisPoolConfig();
        config.setMaxTotal(60000);// 设置最大连接数
        config.setMaxIdle(1000); // 设置最大空闲数
        config.setMaxWaitMillis(3000);// 设置超时时间
        config.setTestOnBorrow(true);
        // 集群结点
        Set<HostAndPort> jedisClusterNode = new HashSet<HostAndPort>();
        jedisClusterNode.add(new HostAndPort("yun-1.cacheyum.com", 6379));
        jedisClusterNode.add(new HostAndPort("yun-2.cacheyum.com", 6379));
        jedisClusterNode.add(new HostAndPort("yun-3.cacheyum.com", 6379));
        jedisClusterNode.add(new HostAndPort("yun-4.cacheyum.com", 6379));
        jedisClusterNode.add(new HostAndPort("yun-5.cacheyum.com", 6379));
        jedisClusterNode.add(new HostAndPort("yun-6.cacheyum.com", 6379));
        JedisCluster jc = new JedisCluster(jedisClusterNode, 1000, 1000, 1000, "admin321", config);
        return jc;
    }
    public static void scanCluster() {
        JedisCluster redis = getJedisCluster();
        redis.getClusterNodes().values().stream().forEach(pool -> {
            boolean done = false;
            String cur = "0";
            try (Jedis jedisNode = pool.getResource()) {
                while (!done) {
                    ScanParams scanParams = new ScanParams();
                    scanParams.match(" ACL_USER_*");
                    scanParams.count(10);
                    ScanResult<String> resp = jedisNode.scan(cur, scanParams);
                    for (String result : resp.getResult()) {
                        System.out.println("key: " + result);
                    }
                    cur = resp.getStringCursor();
                    System.out.println("cursor: " + cur);
                    if (cur.equals("0")) {
                        done = true;
                    }
                }
            }
        });
    }
    public static void main(String[] args) {
        scanCluster();
    }
}

单机情况下 jedis 代码实现

import java.util.HashSet;
import java.util.Set;
import redis.clients.jedis.HostAndPort;
import redis.clients.jedis.Jedis;
import redis.clients.jedis.JedisPoolConfig;
import redis.clients.jedis.ScanParams;
import redis.clients.jedis.ScanResult;
public class RedisTester {
    public static Jedis getAloneRedis() {
        Jedis jedis = new Jedis("127.0.0.1", 6379);
        System.out.println("connect successfully");
        jedis.auth("admin321");
        return jedis;
    }
    public void scanAlone() {
        Jedis jedis = getAloneRedis();
        String cursor = "0";
        do {
            ScanParams scanParams = new ScanParams();
            scanParams.match("ACL_USER_*");
            scanParams.count(10);
            ScanResult<String> sr = jedis.scan(cursor, scanParams);
            List<String> resultList = sr.getResult();
            for (String result : resultList) {
                System.out.println("key: " + result);
            }
            cursor = sr.getStringCursor();
            System.out.println("cursor: " + cursor);
        } while (!cursor.equals("0"));
    }
    public static void main(String[] args) {
        getAloneRedis();
    }
}

使用以下代码就可以找到那些版本的 uuid 是无效的。找到后,再调用 del 指令删除;或者为了更加保险,调用 expire 加个过期时间。让 key 在某个时间内失效也可以。

相关推荐

oracle数据导入导出_oracle数据导入导出工具

关于oracle的数据导入导出,这个功能的使用场景,一般是换服务环境,把原先的oracle数据导入到另外一台oracle数据库,或者导出备份使用。只不过oracle的导入导出命令不好记忆,稍稍有点复杂...

继续学习Python中的while true/break语句

上次讲到if语句的用法,大家在微信公众号问了小编很多问题,那么小编在这几种解决一下,1.else和elif是子模块,不能单独使用2.一个if语句中可以包括很多个elif语句,但结尾只能有一个...

python continue和break的区别_python中break语句和continue语句的区别

python中循环语句经常会使用continue和break,那么这2者的区别是?continue是跳出本次循环,进行下一次循环;break是跳出整个循环;例如:...

简单学Python——关键字6——break和continue

Python退出循环,有break语句和continue语句两种实现方式。break语句和continue语句的区别:break语句作用是终止循环。continue语句作用是跳出本轮循环,继续下一次循...

2-1,0基础学Python之 break退出循环、 continue继续循环 多重循

用for循环或者while循环时,如果要在循环体内直接退出循环,可以使用break语句。比如计算1至100的整数和,我们用while来实现:sum=0x=1whileTrue...

Python 中 break 和 continue 傻傻分不清

大家好啊,我是大田。...

python中的流程控制语句:continue、break 和 return使用方法

Python中,continue、break和return是控制流程的关键语句,用于在循环或函数中提前退出或跳过某些操作。它们的用途和区别如下:1.continue(跳过当前循环的剩余部分,进...

L017:continue和break - 教程文案

continue和break在Python中,continue和break是用于控制循环(如for和while)执行流程的关键字,它们的作用如下:1.continue:跳过当前迭代,...

作为前端开发者,你都经历过怎样的面试?

已经裸辞1个月了,最近开始投简历找工作,遇到各种各样的面试,今天分享一下。其实在职的时候也做过面试官,面试官时,感觉自己问的问题很难区分候选人的能力,最好的办法就是看看候选人的github上的代码仓库...

面试被问 const 是否不可变?这样回答才显功底

作为前端开发者,我在学习ES6特性时,总被const的"善变"搞得一头雾水——为什么用const声明的数组还能push元素?为什么基本类型赋值就会报错?直到翻遍MDN文档、对着内存图反...

2023金九银十必看前端面试题!2w字精品!

导文2023金九银十必看前端面试题!金九银十黄金期来了想要跳槽的小伙伴快来看啊CSS1.请解释CSS的盒模型是什么,并描述其组成部分。...

前端面试总结_前端面试题整理

记得当时大二的时候,看到实验室的学长学姐忙于各种春招,有些收获了大厂offer,有些还在苦苦面试,其实那时候的心里还蛮忐忑的,不知道自己大三的时候会是什么样的一个水平,所以从19年的寒假放完,大二下学...

由浅入深,66条JavaScript面试知识点(七)

作者:JakeZhang转发链接:https://juejin.im/post/5ef8377f6fb9a07e693a6061目录...

2024前端面试真题之—VUE篇_前端面试题vue2020及答案

添加图片注释,不超过140字(可选)...

今年最常见的前端面试题,你会做几道?

在面试或招聘前端开发人员时,期望、现实和需求之间总是存在着巨大差距。面试其实是一个交流想法的地方,挑战人们的思考方式,并客观地分析给定的问题。可以通过面试了解人们如何做出决策,了解一个人对技术和解决问...