百度360必应搜狗淘宝本站头条
当前位置:网站首页 > IT技术 > 正文

redis 生产环境如何有效查找哪些无过期时间的 key

wptr33 2024-12-25 16:02 17 浏览

在项目中,Redis 不应该被当作传统数据库来使用;储存大量没有过期时间的数据。如果储存大量无过期时间,而且无效的key的话;再加上 Redis 本身的过期策略没有被正确设置,就会大量占用内存。这样就会导致再多的内存资源也不够用。最近在项目中,就遇到这样的情况。

情况大致是这样,项目中采用 Redis 二级存储(自己造的一个概念)。大概的意思就是先使用 UUID 生成一个 uuid 作为 value;这个 uuid 作为一个版本 id;存到缓存 key 为 ACL_CACHE_VERSION_KEY 中,即

SET ACL_CACHE_VERSION_KEY uuid

然后在不 uuid 作为另外一个key的一部分。即 ACL_USER_ + uuid,比如 uuid 的值为 26a26b84-578d-40bf-ab15-aeb188a56393,则key 为ACL_USER_26a26b84-578d-40bf-ab15-aeb188a56393,缓存到 key 的数据为

HMSET ACL_USER_26a26b84-578d-40bf-ab15-aeb1 id1 12345 id2 45678

因为 ACL_USER_26a26b84-578d-40bf-ab15-aeb188a56393 的是否过期是通过程序中生成新版本的 uuid,存储新的用户权限数据后;在程序中删除。因为程序的不健壮,导致有大量过期的版本没有及时删除。经过长年的积累导致 Redis 存在大量这些无效版本的 key。

在测试环境中,可以使用 keys 命令,模糊查询到需要的 key,但这个操作只适合在测试环境中使用,不适合在生产环境中使用,原因是 Redis 是单线程运行的,当 Redis 中的数据量很大时,由于此操作会遍历所有数据,并将结果一次性全部返回,执行时间会比较长,从而导致后续操作等待,直接影响系统的正常运行。解决的办法是使用scan命令:

scan cursor [MATCH pattern] [COUNT count]
  • cursor:表示游标,从 0 开始,此命令执行完后会返回一个新的 cursor值。如果cursor!="0",则表示还有 key 未返回,需要再调用 scan,并使用此新的 cursor 值,来获取下一批 key;如果cursor=="0",则表示遍历结束。
  • pattern:表示模糊匹配的样式
  • count:表示一批最多返回多少条记录,默认为10

集群环境下使用 jedis 的代码实现

import java.util.HashSet;
import java.util.Set;
import redis.clients.jedis.HostAndPort;
import redis.clients.jedis.JedisCluster;
import redis.clients.jedis.JedisPoolConfig;
import redis.clients.jedis.ScanParams;
import redis.clients.jedis.ScanResult;
public class RedisTester {
    public static JedisCluster getJedisCluster() {
        JedisPoolConfig config = new JedisPoolConfig();
        config = new JedisPoolConfig();
        config.setMaxTotal(60000);// 设置最大连接数
        config.setMaxIdle(1000); // 设置最大空闲数
        config.setMaxWaitMillis(3000);// 设置超时时间
        config.setTestOnBorrow(true);
        // 集群结点
        Set<HostAndPort> jedisClusterNode = new HashSet<HostAndPort>();
        jedisClusterNode.add(new HostAndPort("yun-1.cacheyum.com", 6379));
        jedisClusterNode.add(new HostAndPort("yun-2.cacheyum.com", 6379));
        jedisClusterNode.add(new HostAndPort("yun-3.cacheyum.com", 6379));
        jedisClusterNode.add(new HostAndPort("yun-4.cacheyum.com", 6379));
        jedisClusterNode.add(new HostAndPort("yun-5.cacheyum.com", 6379));
        jedisClusterNode.add(new HostAndPort("yun-6.cacheyum.com", 6379));
        JedisCluster jc = new JedisCluster(jedisClusterNode, 1000, 1000, 1000, "admin321", config);
        return jc;
    }
    public static void scanCluster() {
        JedisCluster redis = getJedisCluster();
        redis.getClusterNodes().values().stream().forEach(pool -> {
            boolean done = false;
            String cur = "0";
            try (Jedis jedisNode = pool.getResource()) {
                while (!done) {
                    ScanParams scanParams = new ScanParams();
                    scanParams.match(" ACL_USER_*");
                    scanParams.count(10);
                    ScanResult<String> resp = jedisNode.scan(cur, scanParams);
                    for (String result : resp.getResult()) {
                        System.out.println("key: " + result);
                    }
                    cur = resp.getStringCursor();
                    System.out.println("cursor: " + cur);
                    if (cur.equals("0")) {
                        done = true;
                    }
                }
            }
        });
    }
    public static void main(String[] args) {
        scanCluster();
    }
}

单机情况下 jedis 代码实现

import java.util.HashSet;
import java.util.Set;
import redis.clients.jedis.HostAndPort;
import redis.clients.jedis.Jedis;
import redis.clients.jedis.JedisPoolConfig;
import redis.clients.jedis.ScanParams;
import redis.clients.jedis.ScanResult;
public class RedisTester {
    public static Jedis getAloneRedis() {
        Jedis jedis = new Jedis("127.0.0.1", 6379);
        System.out.println("connect successfully");
        jedis.auth("admin321");
        return jedis;
    }
    public void scanAlone() {
        Jedis jedis = getAloneRedis();
        String cursor = "0";
        do {
            ScanParams scanParams = new ScanParams();
            scanParams.match("ACL_USER_*");
            scanParams.count(10);
            ScanResult<String> sr = jedis.scan(cursor, scanParams);
            List<String> resultList = sr.getResult();
            for (String result : resultList) {
                System.out.println("key: " + result);
            }
            cursor = sr.getStringCursor();
            System.out.println("cursor: " + cursor);
        } while (!cursor.equals("0"));
    }
    public static void main(String[] args) {
        getAloneRedis();
    }
}

使用以下代码就可以找到那些版本的 uuid 是无效的。找到后,再调用 del 指令删除;或者为了更加保险,调用 expire 加个过期时间。让 key 在某个时间内失效也可以。

相关推荐

Python自动化脚本应用与示例(python办公自动化脚本)

Python是编写自动化脚本的绝佳选择,因其语法简洁、库丰富且跨平台兼容性强。以下是Python自动化脚本的常见应用场景及示例,帮助你快速上手:一、常见自动化场景文件与目录操作...

Python文件操作常用库高级应用教程

本文是在前面《Python文件操作常用库使用教程》的基础上,进一步学习Python文件操作库的高级应用。一、高级文件系统监控1.1watchdog库-实时文件系统监控安装与基本使用:...

Python办公自动化系列篇之六:文件系统与操作系统任务

作为高效办公自动化领域的主流编程语言,Python凭借其优雅的语法结构、完善的技术生态及成熟的第三方工具库集合,已成为企业数字化转型过程中提升运营效率的理想选择。该语言在结构化数据处理、自动化文档生成...

14《Python 办公自动化教程》os 模块操作文件与文件夹

在日常工作中,我们经常会和文件、文件夹打交道,比如将服务器上指定目录下文件进行归档,或将爬虫爬取的数据根据时间创建对应的文件夹/文件,如果这些还依靠手动来进行操作,无疑是费时费力的,这时候Pyt...

python中os模块详解(python os.path模块)

os模块是Python标准库中的一个模块,它提供了与操作系统交互的方法。使用os模块可以方便地执行许多常见的系统任务,如文件和目录操作、进程管理、环境变量管理等。下面是os模块中一些常用的函数和方法:...

21-Python-文件操作(python文件的操作步骤)

在Python中,文件操作是非常重要的一部分,它允许我们读取、写入和修改文件。下面将详细讲解Python文件操作的各个方面,并给出相应的示例。1-打开文件...

轻松玩转Python文件操作:移动、删除

哈喽,大家好,我是木头左!Python文件操作基础在处理计算机文件时,经常需要执行如移动和删除等基本操作。Python提供了一些内置的库来帮助完成这些任务,其中最常用的就是os模块和shutil模块。...

Python 初学者练习:删除文件和文件夹

在本教程中,你将学习如何在Python中删除文件和文件夹。使用os.remove()函数删除文件...

引人遐想,用 Python 获取你想要的“某个人”摄像头照片

仅用来学习,希望给你们有提供到学习上的作用。1.安装库需要安装python3.5以上版本,在官网下载即可。然后安装库opencv-python,安装方式为打开终端输入命令行。...

Python如何使用临时文件和目录(python目录下文件)

在某些项目中,有时候会有大量的临时数据,比如各种日志,这时候我们要做数据分析,并把最后的结果储存起来,这些大量的临时数据如果常驻内存,将消耗大量内存资源,我们可以使用临时文件,存储这些临时数据。使用标...

Linux 下海量文件删除方法效率对比,最慢的竟然是 rm

Linux下海量文件删除方法效率对比,本次参赛选手一共6位,分别是:rm、find、findwithdelete、rsync、Python、Perl.首先建立50万个文件$testfor...

Python 开发工程师必会的 5 个系统命令操作库

当我们需要编写自动化脚本、部署工具、监控程序时,熟练操作系统命令几乎是必备技能。今天就来聊聊我在实际项目中高频使用的5个系统命令操作库,这些可都是能让你效率翻倍的"瑞士军刀"。一...

Python常用文件操作库使用详解(python文件操作选项)

Python生态系统提供了丰富的文件操作库,可以处理各种复杂的文件操作需求。本教程将介绍Python中最常用的文件操作库及其实际应用。一、标准库核心模块1.1os模块-操作系统接口主要功能...

11. 文件与IO操作(文件io和网络io)

本章深入探讨Go语言文件处理与IO操作的核心技术,结合高性能实践与安全规范,提供企业级解决方案。11.1文件读写11.1.1基础操作...

Python os模块的20个应用实例(python中 import os模块用法)

在Python中,...