百度360必应搜狗淘宝本站头条
当前位置:网站首页 > IT技术 > 正文

【法器篇】利用my2sql闪回误删数据

wptr33 2025-05-21 16:54 3 浏览

安装

根据操作系统版本下载对应版本

wget https://github.com/liuhr/my2sql/blob/master/releases/centOS_release_7.x/my2sql

用途

  • 数据快速回滚(闪回)
  • 主从切换后新master丢数据的修复
  • 从binlog生成标准SQL,带来的衍生功能
  • 生成DML统计信息,可以找到哪些表更新的比较频繁
  • IO高TPS高, 查出哪些表在频繁更新
  • 找出某个时间点数据库是否有大事务或者长事务
  • 主从延迟,分析主库执行的SQL语句
  • 除了支持常规数据类型,对大部分工具不支持的数据类型做了支持,比如json、blob、text、emoji等数据类型sql生成

限制

  • 使用回滚/闪回功能时,binlog格式必须为row,且binlog_row_image=full, DML统计以及大事务分析不受影响
  • 只能回滚DML, 不能回滚DDL
  • 支持指定-tl时区来解释binlog中time/datetime字段的内容。开始时间-start-datetime与结束时间-stop-datetime也会使用此指定的时区, 但注意此开始与结束时间针对的是binlog event header中保存的unix timestamp。结果中的额外的datetime时间信息都是binlog event header中的unix timestamp
  • 此工具是伪装成从库拉取binlog,需要连接数据库的用户有SELECT, REPLICATION SLAVE, REPLICATION CLIENT权限
  • MySQL8.0版本需要在配置文件中加入default_authentication_plugin =mysql_native_password,用户密码认证必须是mysql_native_password才能解析

主要参数

  • -U
    优先使用unique key作为where条件,默认false
  • -add-extraInfo
    当-work-type=2sql|rollback时,是否把database/table/datetime/binlogposition...信息以注释的方式加入生成的每条sql前,默认false
  • -big-trx-row-limit int
    找出满足n行的sql的事务,默认10条,有效值 1-30000
  • -databases string
    库条件过滤, 以逗号分隔,默认全部
  • -do-not-add-prifixDb
    默认生成insert into db1.tb1 (x1, x1) values (y1, y1)类sql,加上参数不生成库前缀
  • -file-per-table
    若为true,为每个表生成一个sql文件,默认为false。注意:一个文件对应一个binlog
  • -full-columns
    生成的sql是否带全列信息,默认false,使用更改的列生成集合部分,使用主键/唯一键生成where条件
  • -host string
    host 地址,default 127.0.0.1
  • -ignore-databases string
    忽略数据库,逗号分割,默认null
  • -ignore-primaryKey-forInsert
    使用-workType=2sql,生成的insert语句是否去掉主键,默认false
  • -ignore-tables string
    忽略数据表,逗号分割,默认null
  • -local-binlog-file string
    当指定-mode=file 参数时,需要指定-local-binlog-file binlog文件相对路径或绝对路径,可以连续解析多个binlog文件,只需要指定起始文件名,程序会自动持续解析下个文件
  • -long-trx-seconds int
    持续时间超出n秒的事务,有效值 0-3600,默认1
  • -mode string
    repl: 伪装成从库解析binlog文件,file: 离线解析binlog文件, 默认repl
  • -mysql-type string
    mysql类型:mysql,mariadb,默认mysql
  • -output-dir string
    将生成的结果存放到制定目录,默认当前目录。注意:结果集个能很大,注意空间
  • -output-toScreen
    将生成的结果打印到屏幕,默认写到文件
  • -password string
    mysql user password.
  • -port uint
    mysql port, default 3306. (default 3306)
  • -print-interval int
    与-w='stats'配合使用,打印每个PrintInterval的统计信息。有效值范围从1到600,默认值30(默认值30)
  • -server-id uint
    伪装slave时使用的server-id,不能与其他从库相同,default 1113306
  • -sql string
    要解析的sql类型,可选参数insert、update、delete,逗号分割,默认全部解析
  • -start-datetime string
    开始时间(包含)如: "2020-01-01 01:00:00"
  • -start-file string
    开始解析的binlog文件
  • -start-pos uint
    开始解析的pos点,默认4
  • -stop-datetime string
    结束时间(不包含)如: "2020-12-30 01:00:00"
  • -stop-file string
    结束解析的binlog文件
  • -stop-pos uint
    结束解析的pos点,默认4
  • -tables string
    表条件过滤, 以逗号分隔,不要库前缀,默认全部
  • -threads uint
    并行度,默认 2
  • -tl string
    指定时区,例如 Asia/Shanghai. default Local (default "Local")
  • -user string
    mysql user.
  • -v
    print version
  • -work-type string
    解析类型:2sql,rollback,stats,2sql:生成原始sql,rollback:生成回滚sql,stats:只统计DML、事务信息,default: 2sql

常用语句

mkdir tmpdir

  • 可以解析时候添加指定的库表信息

根据时间点解析标准SQL/回滚SQL

注意:默认是解析到最后一个binlog,可指定binlog范围,如果是解析到最后一个的,不能进行指定

########################  标准 SQL  #############################
## 伪装成从库解析binlog
./my2sql  -user yqtest -password 123456 -host 192.168.66.167 -port 3312 \
-mode repl \
-work-type 2sql  \
-start-file mysql-bin.000006  \
-stop-file mysql-bin.000007  \
-start-datetime "2022-10-28 11:15:00" \
-stop-datetime "2022-10-28 11:16:53" \
-output-dir ./tmpdir

#直接读取binlog文件解析
 ./my2sql  -user yqtest -password 123456 -host 192.168.66.167 -port 3312 \
-mode file \
-local-binlog-file ./mysql-bin.000006 \
-work-type 2sql  \
-start-file mysql-bin.000006  \
-stop-file mysql-bin.000007  \
-start-datetime "2022-10-28 11:15:00" \
-stop-datetime "2022-10-28 11:16:53" \
-output-dir ./tmpdir

########################  回滚 SQL  #############################
## 伪装成从库解析binlog
./my2sql  -user yqtest -password 123456 -host 192.168.66.167 -port 3312 \
-mode repl \
-work-type rollback  \
-start-file mysql-bin.000006  \
-stop-file mysql-bin.000007  \
-start-datetime "2022-10-28 11:15:00" \
-stop-datetime "2022-10-28 11:16:53" \
-output-dir ./tmpdir

#直接读取binlog文件解析
 ./my2sql  -user yqtest -password 123456 -host 192.168.66.167 -port 3312 \
-mode file \
-local-binlog-file ./mysql-bin.000006 \
-work-type rollback  \
-start-file mysql-bin.000006  \
-stop-file mysql-bin.000007  \
-start-datetime "2022-10-28 11:15:00" \
-stop-datetime "2022-10-28 11:16:53" \
-output-dir ./tmpdir

根据pos点解析出标准SQL/回滚SQL

注意:

start-pos点要找 mapped to number xxxx 上面的pos点

pos解析的binlog 只能是单个binlog文件中

########################  标准 SQL  #############################
## 伪装成从库解析binlog
./my2sql  -user yqtest -password 123456 -host 192.168.66.167 -port 3312 \
-mode repl \
-work-type 2sql  \
-start-file mysql-bin.000006  \
-stop-file mysql-bin.000006  \
-start-pos 1410 \
-stop-pos 1541 \
-output-dir ./tmpdir

#直接读取binlog文件解析
 ./my2sql  -user yqtest -password 123456 -host 192.168.66.167 -port 3312 \
-mode file \
-local-binlog-file ./mysql-bin.000006 \
-work-type 2sql  \
-start-file mysql-bin.000006  \
-stop-file mysql-bin.000006  \
-start-datetime "2022-10-28 11:15:00" \
-stop-datetime "2022-10-28 11:16:53" \
-output-dir ./tmpdir


########################  回滚 SQL  #############################
## 伪装成从库解析binlog
./my2sql  -user yqtest -password 123456 -host 192.168.66.167 -port 3312 \
-mode repl \
-work-type rollback  \
-start-file mysql-bin.000006  \
-stop-file mysql-bin.000006  \
-start-pos 1410 \
-stop-pos 1541 \
-output-dir ./tmpdir

#直接读取binlog文件解析
 ./my2sql  -user yqtest -password 123456 -host 192.168.66.167 -port 3312 \
-mode file \
-local-binlog-file ./mysql-bin.000006 \
-work-type rollback  \
-start-file mysql-bin.000006  \
-stop-file mysql-bin.000006  \
-start-datetime "2022-10-28 11:15:00" \
-stop-datetime "2022-10-28 11:16:53" \
-output-dir ./tmpdir

统计DML以及大事务

统计时间范围各个表的DML操作数量,统计一个事务大于500条、时间大于300秒的事务

#伪装成从库解析binlog
./my2sql  -user root -password xxxx -host 127.0.0.1   -port 3306  -mode repl -work-type stats  -start-file mysql-bin.011259  -start-datetime "2020-07-16 10:20:00" -stop-datetime "2020-07-16 11:00:00"  -big-trx-row-limit 500 -long-trx-seconds 300   -output-dir ./tmpdir
#直接读取binlog文件解析
./my2sql  -user root -password xxxx -host 127.0.0.1   -port 3306 -mode file -local-binlog-file ./mysql-bin.011259   -work-type stats  -start-file mysql-bin.011259  -start-datetime "2020-07-16 10:20:00" -stop-datetime "2020-07-16 11:00:00"  -big-trx-row-limit 500 -long-trx-seconds 300   -output-dir ./tmpdir

统计一段pos点范围各个表的DML操作数量,统计一个事务大于500条、时间大于300秒的事务

#伪装成从库解析binlog
./my2sql  -user root -password xxxx -host 127.0.0.1   -port 3306  -mode repl -work-type stats  -start-file mysql-bin.011259  -start-pos 4 -stop-file mysql-bin.011259 -stop-pos 583918266  -big-trx-row-limit 500 -long-trx-seconds 300   -output-dir ./tmpdir
#直接读取binlog文件解析
./my2sql  -user root -password xxxx -host 127.0.0.1   -port 3306 -mode file -local-binlog-file ./mysql-bin.011259  -work-type stats  -start-file mysql-bin.011259  -start-pos 4 -stop-file mysql-bin.011259 -stop-pos 583918266  -big-trx-row-limit 500 -long-trx-seconds 300   -output-dir ./tmpdir

从某一个pos点解析出标准SQL,并且持续打印到屏幕

#伪装成从库解析binlog
./my2sql  -user root -password xxxx -host 127.0.0.1   -port 3306 -mode repl  -work-type 2sql  -start-file mysql-bin.011259  -start-pos 4   -output-toScreen 

模拟实战

模拟误删了数据

mysql> delete from yqtest.sbtest1;
Query OK, 279552 rows affected (10.10 sec)

闪回数据

# 先查看当前的binlog地址
mysql> show master status;
+------------------+----------+--------------+------------------+--------------------------------------------------------------------------------------------------------------------------------------+
| File             | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set                                                                                                                    |
+------------------+----------+--------------+------------------+--------------------------------------------------------------------------------------------------------------------------------------+
| mysql-bin.000010 | 53344137 |              |                  | 645a456e-4f79-11ed-bee1-000c294448db:1-329386 |
+------------------+----------+--------------+------------------+--------------------------------------------------------------------------------------------------------------------------------------+
1 row in set (0.00 sec)


# 进行闪回数据
./my2sql  -user yqtest -password 123456 -host 192.168.66.167 -port 3312 \
-mode repl  \
-work-type 2sql  \
-start-file mysql-bin.000010  \
-start-datetime "2022-10-28 16:50:00" \
-stop-datetime "2022-10-28 16:56:00" \
-databases yqtest \
-tables sbtest1 \
-sql delete \
-output-dir ./tmpdir

离线恢复也可使用repl方式进行恢复(binlog下载后伪造在本地库) 需要创建好对应的库表结构

相关推荐

针对 MySQL 数据库的 HikariCP 数据库连接池 配置详解

HikariCP是当前性能最优异的数据库连接池之一,尤其适用于高并发场景。以下是针对MySQL数据库的HikariCP配置详解,包含常用参数及其优化建议。HikariCP是当前性能最优异的...

MySQL 数据同步神器 - Canal 入门篇

前言想必做过商品服务都是将商品相关的信息和价格保存在数据库中,例如...

MySQL之慢查询日志分析

一、慢查询设置与测试1、慢查询介绍MySQL的慢查询,全名是慢查询日志,是MySQL提供的一种日志记录,用来记录在MySQL中响应时间超过阈值的语句。...

「MySQL学习」MySQL的变量

MySQL的变量分为四种:局部变量、用户变量、会话变量和全局变量,其中局部变量只存在于函数和存储过程,这里不多了解。其中会话变量和全局变量在MySQL中统称为系统变量用户...

MySQL日志篇

今天我们介绍一下MySQL中特别重要的一项内容——日志!MySQL中日志有很多,我们前文提到的redolog、undolog、以及今天要提到的binlog。...

MySQL--视图

介绍视图是指计算机数据库中的视图,是一个虚拟表,其内容由查询定义。同真实的表一样,视图包含一系列带有名称的列和行数据。但是,视图并不在数据库中以存储的数据值集形式存在。行和列数据来自由定义视图的查询所...

MySQL中like会不会走索引?

先说结论:like"%关键字":不会;like"%关键字%":不会like"关键字%":会说明:...

MySQL正则 rlike(regexp)

在MySQL中,like、rlike和regexp都不区分大小写,如果需要区分,可以在WHERE后添加关键字段binary1.LIKE可以使用以下两个通配符:%...

开源文档预览项目 kkFileView (9.9k star) ,快速入门

kkFileView是一款文件文档在线预览解决方案,采用流行的SpringBoot框架构建,易于上手和部署。该项目基本支持主流办公文档的在线预览,包括但不限于doc、docx、xls、xls...

帮你打造一个私有化的在线个人文档系统

前言最近开发的过程中总是需要找寻一些资料,但是某些资料或者是某段可用的代码,已经忘记放在了哪个文档中了,看着电脑上搜索出来的几百个txt文件,我陷入了一阵无力感中,于是我想能不能搞个在线文档,就像“语...

Container 命令ctr、crictl 命令使用说明

一、ctr命令使用Container命令ctr,crictl的用法版本:ctrcontainerd.io1.4.3containerd相比于docker,多了...

Docker常用命令(2)

目录Docker重启策略配置容器环境变量...

快速搭建自己的镜像仓库

搭建docker镜像仓库1.准备找一台机器为镜像仓库的主机.创建好存放镜像数据文件的目录.例如...

整合 kkfile 实现文件预览

一、简介...

隐私计算FATE-核心概念与单机部署

一、说明Fate是一个工业级联邦学习框架,所谓联邦学习指的就是可以联合多方的数据,共同构建一个模型;...