腾讯T4分享:Redis热点key处理,访问延迟降低90%!
wptr33 2025-03-10 21:11 27 浏览
Redis热点key问题真是让人头大,尤其在大促期间,几个热门商品的缓存key被疯狂访问,分分钟就能把系统搞趴下。不过别担心,今天咱聊聊几个实用的热点key处理方案,能帮你把访问延迟降到最低。
本地缓存大法
在Redis前面加一层本地缓存,能有效减少网络开销:
from cachetools import TTLCache
import redis
class LocalCache:
def __init__(self):
self.local_cache = TTLCache(maxsize=1000, ttl=5) # 5秒过期
self.redis_client = redis.Redis()
def get_product_info(self, product_id: str):
# 先查本地缓存
if product_id in self.local_cache:
return self.local_cache[product_id]
# 本地没有查Redis
value = self.redis_client.get(f"product:{product_id}")
if value:
self.local_cache[product_id] = value
return value
温馨提示:本地缓存过期时间别设太长,不然数据不一致问题会让你很头疼。
分片打散技术
把一个热key分成多个子key,分散访问压力:
class ShardingCache:
def __init__(self, shard_num=10):
self.shard_num = shard_num
self.redis_client = redis.Redis()
def get_hot_key(self, key: str):
# 随机选择一个分片
shard = random.randint(0, self.shard_num - 1)
shard_key = f"{key}:{shard}"
return self.redis_client.get(shard_key)
def set_hot_key(self, key: str, value: str):
# 写入所有分片
for i in range(self.shard_num):
shard_key = f"{key}:{i}"
self.redis_client.set(shard_key, value)
说实话,这招在我们公司双11时立了大功,原来动不动几百毫秒的接口直接降到了10毫秒以内。
异步读取优化
用异步方式读取热点数据,能大幅提升并发性能:
import asyncio
import aioredis
class AsyncHotKeyHandler:
def __init__(self):
self.redis = aioredis.from_url('redis://localhost')
async def get_hot_data(self, keys: list):
# 批量异步读取
tasks = [self.redis.get(key) for key in keys]
results = await asyncio.gather(*tasks)
return dict(zip(keys, results))
温馨提示:异步读取时要注意控制并发量,不要一次性发太多请求。
延迟加载策略
有时候可以先返回旧数据,后台更新:
from threading import Thread
import time
class LazyLoader:
def __init__(self):
self.cache = {}
self.redis_client = redis.Redis()
def get_data(self, key: str):
cached = self.cache.get(key)
if cached:
# 异步更新缓存
Thread(target=self._async_refresh, args=(key,)).start()
return cached
# 缓存不存在时直接查Redis
return self._load_from_redis(key)
def _async_refresh(self, key: str):
new_value = self._load_from_redis(key)
self.cache[key] = new_value
记得去年我遇到个有意思的case,一个商品详情页的热key每秒几万次访问,直接把Redis干懵了。上了这套方案后,Redis的压力直接降了90%。
要是你想玩得更花,还可以用布隆过滤器预加载热key,提前把可能的热点数据写入本地缓存。不过话说回来,系统的复杂度也上来了,得好好权衡。
写代码也要动动脑子,比如定时任务更新热点数据时,可以错开整点,避免跟业务高峰撞到一起。我看过好多系统半夜12点集中更新缓存,结果一更新全站都卡。
有个小技巧,更新热点数据时最好用SETNX,不要直接SET,这样能避免多个实例同时更新导致的问题。
还有个坑,不少人喜欢用incr命令更新热点计数器,这种情况最好用批量操作,积累一批后一次性更新,不然Redis吃不消。
实际应用中啊,这些方案都不是单独用的,得根据业务特点组合使用。我们生产环境就是本地缓存+分片+异步读取一起上,效果相当不错。
- 上一篇:深入理解Redis的scan命令
- 下一篇:基于javaPoet的缓存key优化实践
相关推荐
- oracle数据导入导出_oracle数据导入导出工具
-
关于oracle的数据导入导出,这个功能的使用场景,一般是换服务环境,把原先的oracle数据导入到另外一台oracle数据库,或者导出备份使用。只不过oracle的导入导出命令不好记忆,稍稍有点复杂...
- 继续学习Python中的while true/break语句
-
上次讲到if语句的用法,大家在微信公众号问了小编很多问题,那么小编在这几种解决一下,1.else和elif是子模块,不能单独使用2.一个if语句中可以包括很多个elif语句,但结尾只能有一个else解...
- python continue和break的区别_python中break语句和continue语句的区别
-
python中循环语句经常会使用continue和break,那么这2者的区别是?continue是跳出本次循环,进行下一次循环;break是跳出整个循环;例如:...
- 简单学Python——关键字6——break和continue
-
Python退出循环,有break语句和continue语句两种实现方式。break语句和continue语句的区别:break语句作用是终止循环。continue语句作用是跳出本轮循环,继续下一次循...
- 2-1,0基础学Python之 break退出循环、 continue继续循环 多重循
-
用for循环或者while循环时,如果要在循环体内直接退出循环,可以使用break语句。比如计算1至100的整数和,我们用while来实现:sum=0x=1whileTrue...
- Python 中 break 和 continue 傻傻分不清
-
大家好啊,我是大田。今天分享一下break和continue在代码中的执行效果是什么,进一步区分出二者的区别。一、continue例1:当小明3岁时不打印年龄,其余年龄正常循环打印。可以看...
- python中的流程控制语句:continue、break 和 return使用方法
-
Python中,continue、break和return是控制流程的关键语句,用于在循环或函数中提前退出或跳过某些操作。它们的用途和区别如下:1.continue(跳过当前循环的剩余部分,进...
- L017:continue和break - 教程文案
-
continue和break在Python中,continue和break是用于控制循环(如for和while)执行流程的关键字,它们的作用如下:1.continue:跳过当前迭代,...
- 作为前端开发者,你都经历过怎样的面试?
-
已经裸辞1个月了,最近开始投简历找工作,遇到各种各样的面试,今天分享一下。其实在职的时候也做过面试官,面试官时,感觉自己问的问题很难区分候选人的能力,最好的办法就是看看候选人的github上的代码仓库...
- 面试被问 const 是否不可变?这样回答才显功底
-
作为前端开发者,我在学习ES6特性时,总被const的"善变"搞得一头雾水——为什么用const声明的数组还能push元素?为什么基本类型赋值就会报错?直到翻遍MDN文档、对着内存图反...
- 2023金九银十必看前端面试题!2w字精品!
-
导文2023金九银十必看前端面试题!金九银十黄金期来了想要跳槽的小伙伴快来看啊CSS1.请解释CSS的盒模型是什么,并描述其组成部分。答案:CSS的盒模型是用于布局和定位元素的概念。它由内容区域...
- 前端面试总结_前端面试题整理
-
记得当时大二的时候,看到实验室的学长学姐忙于各种春招,有些收获了大厂offer,有些还在苦苦面试,其实那时候的心里还蛮忐忑的,不知道自己大三的时候会是什么样的一个水平,所以从19年的寒假放完,大二下学...
- 由浅入深,66条JavaScript面试知识点(七)
-
作者:JakeZhang转发链接:https://juejin.im/post/5ef8377f6fb9a07e693a6061目录由浅入深,66条JavaScript面试知识点(一)由浅入深,66...
- 2024前端面试真题之—VUE篇_前端面试题vue2020及答案
-
添加图片注释,不超过140字(可选)1.vue的生命周期有哪些及每个生命周期做了什么?beforeCreate是newVue()之后触发的第一个钩子,在当前阶段data、methods、com...
- 今年最常见的前端面试题,你会做几道?
-
在面试或招聘前端开发人员时,期望、现实和需求之间总是存在着巨大差距。面试其实是一个交流想法的地方,挑战人们的思考方式,并客观地分析给定的问题。可以通过面试了解人们如何做出决策,了解一个人对技术和解决问...
- 一周热门
- 最近发表
- 标签列表
-
- git pull (33)
- git fetch (35)
- mysql insert (35)
- mysql distinct (37)
- concat_ws (36)
- java continue (36)
- jenkins官网 (37)
- mysql 子查询 (37)
- python元组 (33)
- mybatis 分页 (35)
- vba split (37)
- redis watch (34)
- python list sort (37)
- nvarchar2 (34)
- mysql not null (36)
- hmset (35)
- python telnet (35)
- python readlines() 方法 (36)
- munmap (35)
- docker network create (35)
- redis 集合 (37)
- python sftp (37)
- setpriority (34)
- c语言 switch (34)
- git commit (34)
