百度360必应搜狗淘宝本站头条
当前位置:网站首页 > IT技术 > 正文

高计算性能redis集群方案(高计算性能redis集群方案怎么写)

wptr33 2025-02-03 15:30 68 浏览

高计算性能redis集群方案

背景

为更好的支撑数据对账功能的实现,复用redis的数据集合diff功能,对redis集群进行如下调整和优化。

节点变化

采用redis-cluster模式搭建六个主节点的集群(三台虚拟机,每台共64G内存),每个节点分配内存20 G,集群总内存120G,CPU XX 核。由于该集群只用于数据的计算,对于读写分离的需求可忽略不计,所以不需要建设从节点。

参数调整

  1. appendonly:yes # 开启AOF持久化
  2. Appendsync:no#调用 fsync 函数,将缓冲区里面的命令写入到硬盘。
  3. # save 3600 1
  4. # save 300 100
  5. # save 60 10000
  6. save ""

如果集群发生异常,只需要程序重新写入即可,无需要恢复原有数据等内容,为了保证集群使用率最高,将持久化的AOF和RDF模式均改为关闭状态。如此一来,原单个redis节点最多使用内存为该机器的50%即可忽略,理论上可以提高到该机器的95%内存使用率。

代码编写

对两个集合进行差异化对比操作,传统的代码编写方式为

  1. redisTemplate.opsForValue().set(“list1”,“list2”);
  2. redisTemplate.opsForValue().differenceAndStore(“list1”,“list2”,”list3”);
  3. Set result =redisTemplate.opsForValue().members(“list3);

对于上述操作,可以将助lua脚本上传到redis服务器,让它在redis服务器上执行。因为脚本读写数据都是在服务器的本地内存,所以执行很高效。使用lua脚本来执行redis命令,有两个好处,也可以说是使用它的出发点:

高效。由于lua在服务器本地执行,省去了数据在网络上传输的开销。例如,将两个set求交集后的结果保存到新的set。

原子性。整个lua脚本和普通的单个redis命令一样,具有原子性。如果逻辑比较复杂,需要使用多条redis命令完成,而且又需要保证整个逻辑的原子性。lua脚本是不二选择。(与数据库事务的原子性不同,lua脚本不会回滚出错之前的写入)

参照:https://zhuanlan.zhihu.com/p/630484173

相关推荐

[常用工具] git基础学习笔记_git工具有哪些

添加推送信息,-m=messagegitcommit-m“添加注释”查看状态...

centos7安装部署gitlab_centos7安装git服务器

一、Gitlab介1.1gitlab信息GitLab是利用RubyonRails一个开源的版本管理系统,实现一个自托管的Git项目仓库,可通过Web界面进行访问公开的或者私人项目。...

太高效了!玩了这么久的Linux,居然不知道这7个终端快捷键

作为Linux用户,大家肯定在Linux终端下敲过无数的命令。有的命令很短,比如:ls、cd、pwd之类,这种命令大家毫无压力。但是,有些命令就比较长了,比如:...

提高开发速度还能保证质量的10个小窍门

养成坏习惯真是分分钟的事儿,而养成好习惯却很难。我发现,把那些对我有用的习惯写下来,能让我坚持住已经花心思养成的好习惯。...

版本管理最好用的工具,你懂多少?

版本控制(Revisioncontrol)是一种在开发的过程中用于管理我们对文件、目录或工程等内容的修改历史,方便查看更改历史记录,备份以便恢复以前的版本的软件工程技术。...

Git回退到某个版本_git回退到某个版本详细步骤

在开发过程,有时会遇到合并代码或者合并主分支代码导致自己分支代码冲突等问题,这时我们需要回退到某个commit_id版本1,查看所有历史版本,获取git的某个历史版本id...

Kubernetes + Jenkins + Harbor 全景实战手册

Kubernetes+Jenkins+Harbor全景实战手册在现代企业级DevOps体系中,Kubernetes(K8s)、Jenkins和Harbor组成的CI/CD流水...

git常用命令整理_git常见命令

一、Git仓库完整迁移完整迁移,就是指,不仅将所有代码移植到新的仓库,而且要保留所有的commit记录1.随便找个文件夹,从原地址克隆一份裸版本库...

第三章:Git分支管理(多人协作基础)

3.1分支基本概念分支是Git最强大的功能之一,它允许你在主线之外创建独立的开发线路,互不干扰。理解分支的工作原理是掌握Git的关键。核心概念:HEAD:指向当前分支的指针...

云效Codeup怎么创建分支并进行分支管理

云效Codeup怎么创建分支并进行分支管理,分支是为了将修改记录分叉备份保存,不受其他分支的影响,所以在同一个代码库里可以同时进行多个修改。创建仓库时,会自动创建Master分支作为默认分支,后续...

git 如何删除本地和远程分支?_git怎么删除远程仓库

Git分支对于开发人员来说是一项强大的功能,但要维护干净的存储库,就需要知道如何删除过时的分支。本指南涵盖了您需要了解的有关本地和远程删除Git分支的所有信息。了解Git分支...

git 实现一份代码push到两个git地址上

一直以来想把自己的博客代码托管到github和coding上想一次更改一次push两个地址一起更新今天有空查资料实践了下本博客的github地址coding的git地址如果是Gi...

git操作:cherry-pick和rebase_git cherry-pick bad object

在编码中经常涉及到分支之间的代码同步问题,那就需要cherry-pick和rebase命令问题:如何将某个分支的多个commit合并到另一个分支,并在另一个分支只保留一个commit记录解答:假设有两...

模型文件硬塞进 Git,GitHub 直接打回原形:使用Git-LFS管理大文件

前言最近接手了一个计算机视觉项目代码是屎山就不说了,反正我也不看代码主要就是构建一下docker镜像,测试一下部署的兼容性这本来不难但是,国内服务器的网络环境实在是恶劣,需要配置各种镜像(dock...

防弹少年团田柾国《Euphoria》2周年 获世界实时趋势榜1位 恭喜呀

当天韩国时间凌晨3时左右,该曲在Twitter上以“2YearsWithEuphoria”的HashTag登上了世界趋势1位。在韩国推特实时趋势中,从上午开始到现在“Euphoria2岁”的Has...