百度360必应搜狗淘宝本站头条
当前位置:网站首页 > IT技术 > 正文

出大事情了,项目出事故了,多了2000万的数据

wptr33 2025-02-18 13:42 16 浏览

项目事故

在数据库写了一个定时任务,由于某些原因错误的把表内的历史数据当作正常数据写入了表,造成表内数据量飞快增长,一天后才发现定时任务出错了,数据量已经增长到了2400万条数据了。

今天发现系统特别慢,也没有排查到原因。突然有用户说系统的状态数据不正确,才确认是定时任务内的数据造成了状态异常。

幸运的是这个表的数据是只有插入,没有修改和删除操作。只需要把异常的数据删除掉即可。

确认了一下需要删除的数据有2400万条。以后找工作,再问是否有千万的数据操作经验,你看这不就来了吗?

我很着急,我很着急,想尽快把事故处理掉。

delete删除

首先用delete根据条件删除

由于发现事故的时候,首先对所有的异常数据进行删除。

delete from  table where remark like '来源于database.dbo.%' and tableid is null 

但是数据量太大了,如果直接删除,整个系统将会卡住,很长时间不能使用。

根据特定编码删除

发现上面方式行不通后,通过特定编码条件进行删除,

delete from  table where remark like '来源于database.dbo.%' and tableid is null and code='123456'

生成一批删除语句,批量执行

select top 1000 code,count(1),
  ' delete from  table where remark like ''来源于database.dbo.%'' and tableid is null and code='''+code+'''; '+Char(13)+Char(10)+'  '  from table where remark like '来源于database.dbo.%' and tableid is null 
group by code



执行了几次后,发现执行的特别慢。100条数据也需要大概1分多钟的时间。

根据ID删除

发现上面方式太慢后,确定根据ID删除。由于ID是自增的。而且是主键。删除理论上应该会快很多。

select top 100000  id,
' delete from  table where id='''+Cast(id as nvarchar(100))+'''; '+Char(13)+Char(10)+'  '  
from table with(nolock) 
where remark like '来源于database.dbo.%' and tableid is null 

删除10万条数据,在30秒到1分钟之间。速度的确快了很多。

但是2000/10=200 最少还需要200次的手动操作,大约200分钟,也就是3个多小时,才能删除完成。

而且删除10万次也不稳定,执行几次后,会出现内存溢出等问题。

操作几次后,我更着急了,快抑郁了,不知道改怎么办,这种方式感觉有点蠢,3个小时真的很煎熬。

把复制改名

思路:

把正确的数据复制到一个表中,然后把原来的表改名成table_source,把复制的数据改名为原来的表名。

--把原表重命名
EXEC sp_rename 'tablename', 'tablename_Source'; 
--把正确的表重命名为原来的表明
EXEC sp_rename 'tablename20240724', 'tablename';

结果这个表进行了发布订阅。需要先取消订阅。

不知道怎么取消订阅,就换了个方式对备份数据进行清空后,删除原来的表,在重新创建。

我很着急,都要疯了。

重新创建表

对整个表进行备份。

select * into table20240723142500 from table with(nolock)

然后把正确的数据复制到一个新的表里面

select * into table20240725 
from table with(nolock)
where id not in (
	select * from table_error_ids
)

清空当前表的数据

truncate table tablename;

删除这个表

drop table tablename;

把正确的数据复制回到原表

select * into tablename from table20240725 with(nolock)

理论上这样一顿操作后,数据应该是正确的了。

结果由于订阅发布了,truncate和drop不能操作。

取消订阅

数据库服务器->复制->本地发布->找到发布的数据库

然后取消对于上面要操作表的发布订阅。

然后再次执行【重新创建表】的逻辑。

执行成功。2000多万行数据都删除了。

最后确认一下主键ID是否自增;数据是否正确性;订阅重新添加订阅。

整个项目事故就处理完了。

轻松了,跟用户确认了一下数据,完全正确。

长长的呼了一口气。

相关推荐

Linux文件系统操作常用命令(linux文件内容操作命令)

在Linux系统中,有一些常用的文件系统操作命令,以下是这些命令的介绍和作用:#切换目录,其中./代表当前目录,../代表上一级目录cd#查看当前目录里的文件和文件夹ls#...

别小看tail 命令,它难倒了技术总监

我把自己以往的文章汇总成为了Github,欢迎各位大佬star...

lnav:基于 Linux 的高级控制台日志文件查看器

lnav是一款开源的控制台日志文件查看器,专为Linux和Unix-like系统设计。它通过自动检测日志文件的格式,提取时间戳、日志级别等关键信息,并将多个日志文件的内容按时间顺序合并显示,...

声明式与命令式代码(声明模式和命令模式)

编程范式中的术语和差异信不信由你,你可能已经以开发人员的身份使用了多种编程范例。因为没有什么比用编程理论招待朋友更有趣的了,所以这篇文章可以帮助您认识代码中的流行范例。命令式编程命令式编程是我们从As...

linux中的常用命令(linux常用命令和作用)

linux中的常用命令linux中的命令统称shell命令shell是一个命令行解释器,将用户命令解析为操作系统所能理解的指令,实现用户与操作系统的交互shell终端:我们平时输入命令,执行程序的那个...

提高工作效率的--Linux常用命令,能够决解95%以上的问题

点击上方关注,第一时间接受干货转发,点赞,收藏,不如一次关注评论区第一条注意查看回复:Linux命令获取linux常用命令大全pdf+Linux命令行大全pdf...

如何限制他人操作自己的电脑?(如何控制别人的电脑不让发现)

这段时间,小猪罗志祥正处于风口浪尖,具体是为啥?还不知道的小伙伴赶紧去补一下最近的娱乐圈八卦~简单来说,就是我们的小罗同事,以自己超强的体力,以及超强的时间管理能力,重新定义了「多人运动」的含义,重新...

最通俗易懂的命令模式讲解(命令模式百科)

我们先不讲什么是命令模式,先通过一个场景来引出命令模式,看看命令模式能解决什么样的问题。现在有一个渣男张三,他有还几个女朋友,你现在是不是还是单身狗,你就说你气不气?然后他需要每天分别叫几个女朋友起床...

互联网大厂后端必看!Spring Boot 中Runtime执行与停止命令?

你是否曾在使用SpringBoot开发项目时,遇到需要执行系统命令的场景?比如调用脚本进行文件处理,又或是启动外部程序?很多后端开发人员会使用Processexec=Runtime.get...

Linux 常用命令(linux常用的20个命令面试)

日志排查类操作命令...

Java字节码指令:if_icmpgt(0xA3)(java字节码使用的汇编语言)

if_icmpgt是Java字节码中的一条条件跳转指令,其全称是"IfIntegerCompareGreaterThan"。它用于比较两个整数值的大小。如果栈顶的第一个...

外贸干货|如何增加领英的曝光量和询盘

#跨境电商#...

golang执行linux命令(golang调用shell脚本)

需求需要通过openssl生成rsa秘钥,然后保存该秘钥。代码实例packagemainimport("io/ioutil""bytes"&...

LINUX磁盘挂载(linux磁盘挂载到windows)

1、使用root用户查看磁盘挂载情况:fdisk-l2、使用df查看当前磁盘挂载情况,根据和fdisk-l的结果进行对比,查看还有那些磁盘未使用3、挂载:mount磁盘挂载路径...

Linux命令学习——nl命令(linux ln命令的使用)

nl命令主要功能为每一个文件添加行号,每一个输入的文件添加行号后发送到标准输出。当没有文件或文件为-时,读取标准输入...