Spark3.x的Cache能不能让我在2022好好睡觉
wptr33 2024-12-20 19:04 33 浏览
前言
一转眼已经是2022年1月9日了，跨年的节点会发生很多系统性的大事，对于普通人来讲就是跨过一个新的公元年2021->2022,对于生产系统来说，尤其是离线系统，需要发生年结，虽然期望平稳度过，但是实际情况总归没那么太平，所以每次到了这种节点，我们都是第一个flag，新的一年，好好睡觉!!
2022我就想好好睡觉
Spark1.X
Spark1.x的时代，大部分工作上解决内存计算模式下动不动就OOM那种让人抓狂的事情，需要半夜爬起来加内存
Spark2.x
Spark2.x版本，尤其是SparkSQL的引入，扩大了使用场景，自动化的执行计划经常是不对的，需要半夜爬起来手工改执行计划
Spark3.x
到了Spark3.x时代,就在当下,只能一些展望吧，小博客可以带来一些改善睡眠带有一些舒适度（吐槽+抓狂+有点小改善）的内容^^
Spark Cache中 Ugly的执行计划带来的抓狂问题(重点批判)
”Cache Table可以把数据放在内存，这段数据在未来使用的时候可以复用，减少IO“，这个是最初吸引很多同学去使用Cache表的骚操作，这个带来一系列抓狂问题：
1、乱用Cache
大部分同学就是直接使用sql，不是很懂得去控制Cache的大小，大量疯狂的大表也往内存里面怼，实际也装不下，反而导致数据溢出到磁盘上面了
2、想当然地以为快而已
我们看到那种问题SQL，下游其实没有所谓的复用，就是存粹的，读取一次Cache一次，然后下游的作业再从内存表中读取一次
3、凌晨资源情况不一样
凌晨起夜的时候，因为平台的资源会整体拉到一个高度，所以到了凌晨的时候没有那么多内存来霍霍，最后白天可以正常执行的就不能执行了
4、没关注真正慢的原因
磁盘读取一次其实也没那么慢，很多任务慢在Shuffle上，cache一次只能是添堵
5、调试带来的困难
一方面，我们作为平台同学来说，是去看人家的任务，逻辑也没那么熟悉，另一方面，Spark2.X的UI 不显示哪个表被读取了
InMemoryTableScan压根看不出啥东西，处理问题起来很痛苦
一些改进的措施
Cache别乱用
我们在很多情况下发现，大部分任务慢发生在Shuffle阶段，当然在Spark3.x中对Shuffe本身也做了很多优化，需要找准瓶颈
平台侧的解读取IO思路
实际发现我们真要做分布式Cache，是直接把数据底层Cache起来，上层并不感知，目前效果比较好的做法是走的Alluxio，我们会把表的localtion改掉，而且也是平台视角去观测读取的热点数据
重复读落地表来得更有效
实际的重复读读，其实是在夸任务的情况读取比较多，而且是发生在跨集群带来的打满带宽问题，集群内部的IO读取很少打爆的，平台的优化策略是在不同的cluster上作replication操作
Spark3.x带来优化Cache Table展示
后记
所以说2022真能好好睡觉么？
相关推荐
- [常用工具] git基础学习笔记_git工具有哪些
-
添加推送信息，-m=messagegitcommit-m“添加注释”查看状态...
- centos7安装部署gitlab_centos7安装git服务器
-
一、Gitlab介1.1gitlab信息GitLab是利用RubyonRails一个开源的版本管理系统，实现一个自托管的Git项目仓库，可通过Web界面进行访问公开的或者私人项目。...
- 太高效了!玩了这么久的Linux，居然不知道这7个终端快捷键
-
作为Linux用户，大家肯定在Linux终端下敲过无数的命令。有的命令很短，比如：ls、cd、pwd之类，这种命令大家毫无压力。但是，有些命令就比较长了，比如：...
- 提高开发速度还能保证质量的10个小窍门
-
养成坏习惯真是分分钟的事儿，而养成好习惯却很难。我发现，把那些对我有用的习惯写下来，能让我坚持住已经花心思养成的好习惯。...
- 版本管理最好用的工具，你懂多少?
-
版本控制（Revisioncontrol）是一种在开发的过程中用于管理我们对文件、目录或工程等内容的修改历史，方便查看更改历史记录，备份以便恢复以前的版本的软件工程技术。...
- Git回退到某个版本_git回退到某个版本详细步骤
-
在开发过程，有时会遇到合并代码或者合并主分支代码导致自己分支代码冲突等问题，这时我们需要回退到某个commit_id版本1，查看所有历史版本，获取git的某个历史版本id...
- Kubernetes + Jenkins + Harbor 全景实战手册
-
Kubernetes+Jenkins+Harbor全景实战手册在现代企业级DevOps体系中，Kubernetes(K8s)、Jenkins和Harbor组成的CI/CD流水...
- git常用命令整理_git常见命令
-
一、Git仓库完整迁移完整迁移，就是指，不仅将所有代码移植到新的仓库，而且要保留所有的commit记录1.随便找个文件夹，从原地址克隆一份裸版本库...
- 第三章:Git分支管理(多人协作基础)
-
3.1分支基本概念分支是Git最强大的功能之一，它允许你在主线之外创建独立的开发线路，互不干扰。理解分支的工作原理是掌握Git的关键。核心概念：HEAD：指向当前分支的指针...
- 云效Codeup怎么创建分支并进行分支管理
-
云效Codeup怎么创建分支并进行分支管理，分支是为了将修改记录分叉备份保存，不受其他分支的影响，所以在同一个代码库里可以同时进行多个修改。创建仓库时，会自动创建Master分支作为默认分支，后续...
- git 如何删除本地和远程分支?_git怎么删除远程仓库
-
Git分支对于开发人员来说是一项强大的功能，但要维护干净的存储库，就需要知道如何删除过时的分支。本指南涵盖了您需要了解的有关本地和远程删除Git分支的所有信息。了解Git分支...
- git 实现一份代码push到两个git地址上
-
一直以来想把自己的博客代码托管到github和coding上想一次更改一次push两个地址一起更新今天有空查资料实践了下本博客的github地址coding的git地址如果是Gi...
- git操作:cherry-pick和rebase_git cherry-pick bad object
-
在编码中经常涉及到分支之间的代码同步问题，那就需要cherry-pick和rebase命令问题：如何将某个分支的多个commit合并到另一个分支，并在另一个分支只保留一个commit记录解答：假设有两...
- 模型文件硬塞进 Git，GitHub 直接打回原形:使用Git-LFS管理大文件
-
前言最近接手了一个计算机视觉项目代码是屎山就不说了，反正我也不看代码主要就是构建一下docker镜像，测试一下部署的兼容性这本来不难但是，国内服务器的网络环境实在是恶劣，需要配置各种镜像（dock...
- 防弹少年团田柾国《Euphoria》2周年 获世界实时趋势榜1位 恭喜呀
-
当天韩国时间凌晨3时左右，该曲在Twitter上以“2YearsWithEuphoria”的HashTag登上了世界趋势1位。在韩国推特实时趋势中，从上午开始到现在“Euphoria2岁”的Has...
- 一周热门
-
-
C# 13 和 .NET 9 全知道 :13 使用 ASP.NET Core 构建网站 (1)
-
程序员的开源月刊《HelloGitHub》第 71 期
-
详细介绍一下Redis的Watch机制，可以利用Watch机制来做什么?
-
假如有100W个用户抢一张票，除了负载均衡办法，怎么支持高并发?
-
Java面试必考问题:什么是乐观锁与悲观锁
-
如何将AI助手接入微信（打开ai手机助手）
-
SparkSQL——DataFrame的创建与使用
-
redission YYDS spring boot redission 使用
-
一文带你了解Redis与Memcached? redis与memcached的区别
-
如何利用Redis进行事务处理呢? 如何利用redis进行事务处理呢英文
-
- 最近发表
- 标签列表
-
- git pull (33)
- git fetch (35)
- mysql insert (35)
- mysql distinct (37)
- concat_ws (36)
- java continue (36)
- jenkins官网 (37)
- mysql 子查询 (37)
- python元组 (33)
- mybatis 分页 (35)
- vba split (37)
- redis watch (34)
- python list sort (37)
- nvarchar2 (34)
- mysql not null (36)
- hmset (35)
- python telnet (35)
- python readlines() 方法 (36)
- munmap (35)
- docker network create (35)
- redis 集合 (37)
- python sftp (37)
- setpriority (34)
- c语言 switch (34)
- git commit (34)