通过alter table 来实现重建表,同事大呼开眼界了
wptr33 2025-03-06 20:11 10 浏览
hello,大家好,我是张张,「架构精进之路」公号作者。
1、应用背景
在日常工作开发中,在MySQL中,如果我们对大表频繁进行insert和delete操作,那么时间一长,这个表中会出现很多"空洞",也就是表碎片。
碎片产生的原因是insert随机值作为主键id,会产生很多数据页分裂操作;而delete掉一些排列有序的主键值,这些被delete的空间不会直接释放,而是仅仅进行delete的标记,这些空间如果不能被利用,那就会变成"空洞"。
2、重建表
关于重建表,这时候新建一张结构一样的临时表,把表内的数据导入到临时表,直接删除旧表,然后将临时表替换为旧表,从而释放这些空余的空间,让数据变得"紧凑些",完成重建操作。
我们其实可以通过如下命令来重建表:
alter table tableName engine=innodb
在MySQL5.5版本之前,这个命令的执行流程跟1操作差不多,区别只是在于这个临时表不需要你直接创建,MySQL会自动完成转存数据、交换表名、删除旧表的操作。
这个重建表的过程,在MySQL5.5之前,它的执行逻辑是下面这样的:
1、假设原表是A,新建一个表table B,和表A的表结构保持一致;
2、按照主键顺序,将表A的数据一行一行的读出来,插入到表B里面;
3、交换表A和表B的名称。
3、重建实现优化
通过上面的介绍可以发现,花时间最多的步骤是往临时表插入数据的过程,如果在这个过程中,有新的数据要写入到表 A 的话,就会造成数据丢失。
因此,在整个 DDL 过程中,旧表中不能有更新(也就是说,这个 DDL 不是 Online 的)。
在MySQL5.6及以后的版本里面,引入了Online DDL的方法,Online DDL的引入,使得上面的过程有了一点点不同,当执行如下命令的时候,
alter table tableName engine=innodb
MySQL5.6版本开始引入的Online DDL,对这个操作流程做了优化:
1、建立一个临时文件,扫描表A主键的所有数据页;
2、用数据页中表A的记录生产B+树,存储到临时文件中;
3、生产临时文件的过程中,将所有对A的操作记录在一个日志文件(row log)中,对应的是图中state2的状态;
4、临时文件生成后,将日志文件中的操作应用到临时文件,得到一个逻辑数据上与表A相同的数据文件,对应的就是图中state3的状态;
5、用临时文件替换表A的数据文件。
执行alter语句时,需要获取MDL写锁,但是这个写锁在真正拷贝数据之前就退化成读锁。为了实现Online,MDL读锁不会阻塞增删改操作。
那为什么要从写锁退化成读锁而不干脆直接解除锁呢?为了保护自己,禁止其他线程对这个表同时做DDL。
4、答疑解惑
关于重建表,相信大家还会有其他的疑惑,一起来总结下。
Q1、在MySQL5.5之前,我们使用临时表作为重建的中间介质,在MySQL5.6之后,我们使用临时文件作为重建的中间介质,临时表和临时文件的区别是?
A:临时表是创建在server层面的,临时文件是创建在innodb层面的,所以Online DDL的整个过程都是在Innodb内部完成的,这种方法也称之为"inplace",相对应的,需要借助server层面临时表的过程,称之为"Copy"。
Q2、假设我们有一个1TB的表,磁盘只有1.2TB,那么还可以做inplace的DDL呢?
A:不可以,因为inplace方案中的临时文件也要占用一定的空间。
Q3、inplace 方案进行的表重建操作,都是Online DDL么?
A:不一定,例如增加全文索引的操作,这个操作是inplace的,但是会阻塞增删改查操作,因此不是Online DDL。应该说:Online DDL一定是inplace的,但是inplace方案进行的操作,不一定是Online的。
Q4、某个表的大小是1TB,进行alter table A engine=Innodb之后,表的空间没有缩小,反而增大了一点,这是为什么?
A:可能是因为表之前刚刚进行过一次alter table的操作,而且表上面的并发增删改比较多,在进行alter table 的过程中,这些操作都写进了log中,从而导致表的实际大小会增加。
希望今天的讲解对大家有所帮助,谢谢!
Thanks for reading!
作者:架构精进之路,十年研发风雨路,大厂架构师,CSDN 博客专家,专注架构技术沉淀学习及分享,职业与认知升级,坚持分享接地气儿的干货文章,期待与你一起成长。
关注并私信我回复“01”,送你一份程序员成长进阶大礼包,欢迎勾搭。
相关推荐
- 用Java实现RAG的3大核心模块与7个必知细节
-
一、真实场景驱动:某制造企业的知识管理之痛某汽车零部件企业有超过20万份技术文档(PDF/HTML/Word),工程师每天平均花费2小时查找资料。我们为其构建的Java版RAG系统,将查询耗时缩短至1...
- 在 C# .NET 中从 PDF 中提取表数据
-
概述:...
- 【分享】教你如何使用 Java 读取 Excel、docx、pdf 和 txt 文件
-
在Java开发中,我们经常需要读取不同类型的文件,包括Excel表格文件、"doc"和"docx"文档文件、PDF文件以及纯文本文件。其中最常用的是A...
- Spring AI 模块架构与功能解析
-
SpringAI是Spring生态系统中的一个新兴模块,专注于简化人工智能和机器学习技术在Spring应用程序中的集成。本文将详细介绍SpringAI的核心组件、功能模块及其之间的关...
- 告别付费!一站式服务,PDF多功能工具!
-
大家好,我是Java陈序员。今天,给大家介绍一个PDF多功能在线操作工具,完全免费开源!...
- 本地PDF操作神器:永久告别盗版和破解,再也不用担心安全问题
-
前言PDF(便携式文档格式)目前已经成为了文档交换和存储的标准。然而,找到一个功能全面、安全可靠、且完全本地化的PDF处理工具并不容易。...
- Python rembg 库去除图片背景
-
rembg是一个强大的Python库,用于自动去除图片背景。它基于深度学习模型(如U^2-Net),能够高效地将前景物体从背景中分离,生成透明背景的PNG图像。本教程将带你从安装到实际应用...
- 31个必备的python字符串方法,建议收藏
-
字符串是Python中基本的数据类型,几乎在每个Python程序中都会使用到它。...
- python学习day1——输出格式化
-
print一般在控制台中我们用print进行输出,默认情况下,使用格式为:print(*objects,sep='',end='\n')第一个参数是我们要在控制台...
- 一张图认识Python(附基本语法总结)
-
一张图认识Python(附基本语法总结)一张图带你了解Python,更快入门,一张图认识Python(附基本语法总结)Python基础语法总结:1.Python标识符在Python里,标识符有字...
- 学习编程第188天 python编程 字典格式化
-
今天学习的是刘金玉老师零基础Python教程第84期,主要内容是python字典格式化。...
- Python基础数据类型转换
-
Python中的基础数据类型转换可以分为隐式转换和显示转换。隐式转换是python解释器自动转换,显示转换是通过内置函数实现。无论哪种方式进行的转换,均为转换为对应类型的数据,而非改变原数据的类型。...
- python之json基本操作
-
1.概述JSON(JavaScriptObjectNotation)是一种轻量级的数据交换格式,它具有简洁、清晰的层次结构,易于阅读和编写,还可以有效的提升网络传输效率。Python标准库的...
- Python之迭代器及其用法
-
前面章节中,已经对列表(list)、元组(tuple)、字典(dict)、集合(set)这些序列式容器做了详细的介绍。值得一提的是,这些序列式容器有一个共同的特性,它们都支持使用for循环遍历存储...
- 从初始化一个现代 python项目学习到的东西
-
uv我准备用uv初始化一个python项目环境我用的是苹果笔记本MacBookPro,具体的操作系统及硬件参数如下:...
- 一周热门
-
-
C# 13 和 .NET 9 全知道 :13 使用 ASP.NET Core 构建网站 (1)
-
因果推断Matching方式实现代码 因果推断模型
-
git pull命令使用实例 git pull--rebase
-
git 执行pull错误如何撤销 git pull fail
-
面试官:git pull是哪两个指令的组合?
-
git fetch 和git pull 的异同 git中fetch和pull的区别
-
git pull 和git fetch 命令分别有什么作用?二者有什么区别?
-
还可以这样玩?Git基本原理及各种骚操作,涨知识了
-
git pull 之后本地代码被覆盖 解决方案
-
git命令之pull git.pull
-
- 最近发表
- 标签列表
-
- git pull (33)
- git fetch (35)
- mysql insert (35)
- mysql distinct (37)
- concat_ws (36)
- java continue (36)
- jenkins官网 (37)
- mysql 子查询 (37)
- python元组 (33)
- mybatis 分页 (35)
- vba split (37)
- redis watch (34)
- python list sort (37)
- nvarchar2 (34)
- mysql not null (36)
- hmset (35)
- python telnet (35)
- python readlines() 方法 (36)
- munmap (35)
- docker network create (35)
- redis 集合 (37)
- python sftp (37)
- setpriority (34)
- c语言 switch (34)
- git commit (34)