百度360必应搜狗淘宝本站头条
当前位置:网站首页 > IT技术 > 正文

ORACLE数据库SQL缓存自动智能清理

wptr33 2024-11-23 23:31 15 浏览

直接拼接变量到SQL,每次执行的SQL都不一样,会导致SQL缓存激增,影响正常的SQL的常驻缓存。解决问题的根本办法,就是优化SQL的写法。但是也有很多的情况我们没法修改代码,比如有些是产品的代码,我们没有源代码;或者代码要改的地方太多,修改代码有风险。这时就只能通过数据库层面来考虑优化方案了。

最简单的办法直接执行命令清除SQL缓存:alter system flush shared_pool。但是这种方法会清空整个SQL缓存,在缓存里有用的没用的SQL都会被清除,使SQL缓存起不到该有的作用,另外一次性清空缓存,执行的时间可能会比较长,在数据库繁忙时,有导致数据库崩溃的风险。所以这种方法并不好。

另外一种办法是查出来重复解析超过指定值的SQL,只针对这些SQL从缓存中清除,这样既清理了没用的SQL,又不影响有用的SQL常驻缓存,是一种比较好的办法,只是处理过程就相对比较复杂一点,下面就给出这种方法的具体实现。

我们首先给出这种办法的手工处理方案,然后再给出方案自动的自动处理方案。手工处理方案分三步:

--1.查询非绑定变量的SQL,重复解析次数超过20

SELECT to_char(FORCE_MATCHING_SIGNATURE), COUNT (1)

FROM V$SQL WHERE FORCE_MATCHING_SIGNATURE > 0

AND FORCE_MATCHING_SIGNATURE != EXACT_MATCHING_SIGNATURE

GROUP BY FORCE_MATCHING_SIGNATURE

HAVING (COUNT (1) >20) ORDER BY 2 desc;

--2.查询每个超过1小时没有使用的SQL的ADDRESS_HASH_VALUE

select address || ',' || hash_value as ADDRESS_HASH_VALUE

from v$sqlarea

where FORCE_MATCHING_SIGNATURE=6075142212657914118

and last_load_time < sysdate - 1 / 24 ;

--3. 根据ADDRESS_HASH_VALUE从缓存中清除

--方式1: 当SQL执行

call sys.dbms_shared_pool.purge('00000000787B50F0,3727297360', 'c');

--方式2:在存储过程里执行

declare

begin

sys.dbms_shared_pool.purge('00000000787B50F0,3727297360', 'c');

end;

--方式3:在命令行窗口执行

execute sys.dbms_shared_pool.purge('00000000787B50F0,3727297360', 'c');

手工方案还是比较简单的,但是只能用于原理说明,真要手工去执行,SQL太多了,会累死。

自动方案就是根据以上原理,写一个PACKAGE SQL_MANAGEMENT_PKG,完整的代码见文末。主函数为:

--清理SQL缓存,查询缓存中数量超过P_MAX_SQL_COUNT的非绑定变量的SQL语句进行清理,清理时间不超过P_MAX_EXECUTE_TIME秒

procedure clean_sql_pool(P_MAX_SQL_COUNT integer,P_MAX_EXECUTE_TIME integer);

我们可以通过手工来执行这个函数,但是为了自动处理,我们可以定义一个定时任务来执行:

declare

job number;

begin

--任务每隔10分钟执行一次

--清理数量超过20的SQL缓存,每次最多清理10秒时间

sys.dbms_job.submit(job,'SQL_MANAGEMENT_PKG.clean_sql_pool(20,10);',sysdate,'sysdate+10/1440');

end;

PACKAGE SQL_MANAGEMENT_PKG的完整代码如下:

create or replace package SQL_MANAGEMENT_PKG is

-- Author : 程序员跳跳鱼

-- Created : 2019/10/21 9:13:28

-- Purpose : SQL 缓存清理

--调试,true会输出调试日志

IS_DEBUG BOOLEAN:=false;

--调试睡眠,true会sleep延长执行时间

IS_DEBUG_SLEEP BOOLEAN:=false;

--清理SQL缓存,查询缓存中数量超过P_MAX_SQL_COUNT的非绑定变量的SQL语句进行清理,清理时间不超过P_MAX_EXECUTE_TIME秒

procedure clean_sql_pool(P_MAX_SQL_COUNT integer,P_MAX_EXECUTE_TIME integer);

--清理SQL缓存

procedure clean_sql_pool(P_MAX_SQL_COUNT integer,

P_MAX_EXECUTE_TIME integer,

P_IS_DEBUG BOOLEAN,

P_IS_DEBUG_SLEEP BOOLEAN);

--等待一定时间,调试用

procedure sleep(P_SECOND INTEGER) ;

--输出日志

procedure log(P_MESSAGE VARCHAR2);

--输出调试日志

procedure log_debug(P_MESSAGE VARCHAR2);

--判断是否到达最大执行时间

function is_timeout(p_start_time date, p_max_execute_time integer) return boolean;

end SQL_MANAGEMENT_PKG;

/

create or replace package body SQL_MANAGEMENT_PKG is

procedure clean_sql_pool(P_MAX_SQL_COUNT integer,

P_MAX_EXECUTE_TIME integer) is

V_START_TIME DATE;

V_CLEAN_COUNT_SUM INTEGER;

V_CLEAN_COUNT INTEGER;

begin

log('clean sql pool start ...');

V_CLEAN_COUNT_SUM := 0;

select sysdate into V_START_TIME from dual;

--查询缓存中数量超过P_MAX_SQL_COUNT的非绑定变量的SQL语句

for SQL_INFO in (SELECT to_char(FORCE_MATCHING_SIGNATURE) as signature,

COUNT(1) as sql_count

FROM V$SQL

WHERE FORCE_MATCHING_SIGNATURE > 0

AND FORCE_MATCHING_SIGNATURE !=EXACT_MATCHING_SIGNATURE

GROUP BY FORCE_MATCHING_SIGNATURE

HAVING(COUNT(1) > P_MAX_SQL_COUNT) --FORCE_MATCHING_SIGNATURE的计数,20

ORDER BY 2 desc) loop

log_debug('FORCE_MATCHING_SIGNATURE=' || SQL_INFO.signature ||

',COUNT=' || SQL_INFO.SQL_COUNT);

V_CLEAN_COUNT := 0;

--查询每个超过1小时没有使用的SQL的ADDRESS_HASH_VALUE

for sqlarea_info in (select address || ',' || hash_value as ADDRESS_HASH_VALUE

from v$sqlarea

where FORCE_MATCHING_SIGNATURE =

SQL_INFO.SIGNATURE

and last_load_time < sysdate - 1 / 24) loop

--根据ADDRESS_HASH_VALUE从缓存中清除

log_debug(sqlarea_info.ADDRESS_HASH_VALUE);

SYS.DBMS_SHARED_POOL.purge(sqlarea_info.ADDRESS_HASH_VALUE, 'c');

sleep(1);

V_CLEAN_COUNT := V_CLEAN_COUNT + 1;

if is_timeout(V_START_TIME, P_MAX_EXECUTE_TIME) then

EXIT;

end if;

end loop;

log_debug('clean count = ' || V_CLEAN_COUNT);

V_CLEAN_COUNT_SUM := V_CLEAN_COUNT_SUM + V_CLEAN_COUNT;

sleep(1);

if is_timeout(V_START_TIME, P_MAX_EXECUTE_TIME) then

EXIT;

end if;

end loop;

log('total clean count = ' || V_CLEAN_COUNT_SUM);

log('clean sql pool end.');

end;

procedure clean_sql_pool(P_MAX_SQL_COUNT integer,

P_MAX_EXECUTE_TIME integer,

P_IS_DEBUG BOOLEAN,

P_IS_DEBUG_SLEEP BOOLEAN) is

BEGIN

IS_DEBUG := P_IS_DEBUG;

IS_DEBUG_SLEEP := P_IS_DEBUG_SLEEP;

clean_sql_pool(P_MAX_SQL_COUNT, P_MAX_EXECUTE_TIME);

end;

--等待一定时间,调试用

procedure sleep(P_SECOND INTEGER) is

BEGIN

if IS_DEBUG AND IS_DEBUG_SLEEP then

DBMS_LOCK.Sleep(P_SECOND);

END IF;

end;

--输出日志

procedure log(P_MESSAGE VARCHAR2) is

BEGIN

dbms_output.put_line(TO_CHAR(SYSDATE, 'YYYY-MM-DD HH24:MI:SS') ||

' - ' || P_MESSAGE);

end;

--输出调试日志

procedure log_debug(P_MESSAGE VARCHAR2) is

BEGIN

if IS_DEBUG then

log(P_MESSAGE);

end if;

end;

--判断是否到达最大执行时间

function is_timeout(p_start_time date, p_max_execute_time integer)

return boolean is

V_CURRENT_TIME DATE;

begin

select sysdate into V_CURRENT_TIME from dual;

IF ((V_CURRENT_TIME - p_start_time) * 24 * 3600 >= p_max_execute_time) then

return true;

else

return false;

end if;

end;

--begin

-- Initialization

--NULL;

end SQL_MANAGEMENT_PKG;

/

相关推荐

Python自动化脚本应用与示例(python办公自动化脚本)

Python是编写自动化脚本的绝佳选择,因其语法简洁、库丰富且跨平台兼容性强。以下是Python自动化脚本的常见应用场景及示例,帮助你快速上手:一、常见自动化场景文件与目录操作...

Python文件操作常用库高级应用教程

本文是在前面《Python文件操作常用库使用教程》的基础上,进一步学习Python文件操作库的高级应用。一、高级文件系统监控1.1watchdog库-实时文件系统监控安装与基本使用:...

Python办公自动化系列篇之六:文件系统与操作系统任务

作为高效办公自动化领域的主流编程语言,Python凭借其优雅的语法结构、完善的技术生态及成熟的第三方工具库集合,已成为企业数字化转型过程中提升运营效率的理想选择。该语言在结构化数据处理、自动化文档生成...

14《Python 办公自动化教程》os 模块操作文件与文件夹

在日常工作中,我们经常会和文件、文件夹打交道,比如将服务器上指定目录下文件进行归档,或将爬虫爬取的数据根据时间创建对应的文件夹/文件,如果这些还依靠手动来进行操作,无疑是费时费力的,这时候Pyt...

python中os模块详解(python os.path模块)

os模块是Python标准库中的一个模块,它提供了与操作系统交互的方法。使用os模块可以方便地执行许多常见的系统任务,如文件和目录操作、进程管理、环境变量管理等。下面是os模块中一些常用的函数和方法:...

21-Python-文件操作(python文件的操作步骤)

在Python中,文件操作是非常重要的一部分,它允许我们读取、写入和修改文件。下面将详细讲解Python文件操作的各个方面,并给出相应的示例。1-打开文件...

轻松玩转Python文件操作:移动、删除

哈喽,大家好,我是木头左!Python文件操作基础在处理计算机文件时,经常需要执行如移动和删除等基本操作。Python提供了一些内置的库来帮助完成这些任务,其中最常用的就是os模块和shutil模块。...

Python 初学者练习:删除文件和文件夹

在本教程中,你将学习如何在Python中删除文件和文件夹。使用os.remove()函数删除文件...

引人遐想,用 Python 获取你想要的“某个人”摄像头照片

仅用来学习,希望给你们有提供到学习上的作用。1.安装库需要安装python3.5以上版本,在官网下载即可。然后安装库opencv-python,安装方式为打开终端输入命令行。...

Python如何使用临时文件和目录(python目录下文件)

在某些项目中,有时候会有大量的临时数据,比如各种日志,这时候我们要做数据分析,并把最后的结果储存起来,这些大量的临时数据如果常驻内存,将消耗大量内存资源,我们可以使用临时文件,存储这些临时数据。使用标...

Linux 下海量文件删除方法效率对比,最慢的竟然是 rm

Linux下海量文件删除方法效率对比,本次参赛选手一共6位,分别是:rm、find、findwithdelete、rsync、Python、Perl.首先建立50万个文件$testfor...

Python 开发工程师必会的 5 个系统命令操作库

当我们需要编写自动化脚本、部署工具、监控程序时,熟练操作系统命令几乎是必备技能。今天就来聊聊我在实际项目中高频使用的5个系统命令操作库,这些可都是能让你效率翻倍的"瑞士军刀"。一...

Python常用文件操作库使用详解(python文件操作选项)

Python生态系统提供了丰富的文件操作库,可以处理各种复杂的文件操作需求。本教程将介绍Python中最常用的文件操作库及其实际应用。一、标准库核心模块1.1os模块-操作系统接口主要功能...

11. 文件与IO操作(文件io和网络io)

本章深入探讨Go语言文件处理与IO操作的核心技术,结合高性能实践与安全规范,提供企业级解决方案。11.1文件读写11.1.1基础操作...

Python os模块的20个应用实例(python中 import os模块用法)

在Python中,...