百度360必应搜狗淘宝本站头条
当前位置:网站首页 > IT技术 > 正文

MySQL的日志 - general log

wptr33 2025-03-04 14:22 13 浏览

关注我「程序猿集锦」,获取更多分享资料。

  • 前言
  • general log
  • 如何开启 general log
  • general log的参数
  • general log开启示例
  • 通过命令暂时开启
  • 通过配置文件永久开启
  • 关闭general log
  • 清理general log文件
  • 总结
  • 前言

    在前面的文章中我们介绍了slow query log慢查询日志、binlog二进制日志、relaylog中继日志、redolog重做日志、undolog回滚日志。今天我们来了解一下general log一般日志,有时候也叫做普通日志。

    general log

    在默认情况下,MySQL是不会打开general log的,这个log里面会记录MySQL所有的SQL语句,不管是查询语句,还是DML语句,还是DDL语句,还是DCL语句,这些语句统统都会被记录在general log文件中。就连我们连接和断开MySQL数据库的这些语句。

    MySQL会把它收到的所有SQL语句按照接收的顺序依次记录在general log中。我们需要注意的是,这里接受的SQL语句的顺序,并不等于SQL语句就是按照这个接受的顺序来执行,因为有的时候,一些SQL可能需要等待其他锁被释放后才会被真正的执行,SQL语句的执行顺序是和binlog中的顺序是相匹配的。

    假如我们执行一个select查询语句,在binlog中不会记录这样的SQL语句,但是在general log中就会记录这个select查询语句。

    General log默认不开启的原因有两个:

  • 日志将会非常大,对磁盘是一个很大的压力。因为所有的操作都会被记录下来。
  • 对MySQL数据的性能有一定的影响。
  • 所以,我们一般不会开启这个general log记录的功能,只有在排查某些错误的时候,才会临时打开一下,等到debug完成之后,再把它关闭。

    如何开启 general log

    如果在配置文件中永久开启:

    [mysqld]
    general_log=1
    general_log_file=mysql_general_log.log
    log_output=/var/lib/mysql

    在SQL命令行中临时开启:

    mysql> show variables like 'general_log'; -- 查看日志是否开启
    +---------------+-------+
    | Variable_name | Value |
    +---------------+-------+
    | general_log   | OFF   |
    +---------------+-------+
    1 row in set (0.02 sec)
    
    mysql>
    mysql> show variables like 'general_log_file'; -- 看看日志文件保存位置
    +------------------+-------------------------+
    | Variable_name    | Value                   |
    +------------------+-------------------------+
    | general_log_file | /var/lib/mysql/test.log |
    +------------------+-------------------------+
    1 row in set (0.02 sec)
    
    mysql>
    mysql> show variables like 'log_output'; -- 看看日志输出类型 table或file
    +---------------+------------+
    | Variable_name | Value      |
    +---------------+------------+
    | log_output    | FILE,TABLE |
    +---------------+------------+
    1 row in set (0.01 sec)

    general log的参数

    general log的参数主要有以下几个:

  • genral_log:用于控制是否开启general log。等于0表示关闭,等于1表示开启。默认是0
  • general_log_file:general log日志的文件名是什么,如果不配置这个参数的话,默认会以MySQL服务器的hostname作为general log日志的文件名称,具体文件为:.log,general log日志的存放路径。如果不指定,则默认放在datadir参数所指定的目录下。也可以在这个参数中指定具体的路径+名称。
  • log_output:general log输出的方式,是输出表中,还是保存到文件中。这个参数的取值范围为:table,或者file。默认是保存到file文件中。这个参数是和慢查询日志是共用的,慢查询的日志是记录在表中还是只记录在文件中,也是用这个参数来控制。如果配置为table,就会把慢查询日志和general log日志都写在mysql.geneal_log表中。如果这个参数配置为table,file则表示即写入表中,也写入日志文件中,两个地方都写入日志。
  • 在开启了general log的前提下,如果在某个session连接中,不想让此次操作的所有SQL被记录在general log中,则可以在session中执行set session sql_log_off=on就可以关闭当前session的操作被记录在general log中。

    general log开启示例

    接下里我们会针对开启general log做两个实验:

    1. 在命令行中,通过命令暂时开启。这种开启方式,在MySQL实例被重启的以后,会失效。
    2. 在配置文件中,配置参数开启。这种开启方式,永久生效,即便MySQL实例重启后,仍然有效。

    通过命令暂时开启

    我们来开启general log感受一下,下面我们登录到MySQL的命令行窗口,使用set global general_log=on;命令来开启。开启过程如下所示:

    mysql> set session general_log=on; -- 这是一个全局参数,不能只针对当前session启用。
    ERROR 1229 (HY000): Variable 'general_log' is a GLOBAL variable and should be set with SET GLOBAL
    mysql> set global general_log=on; -- 对全局开启general log
    Query OK, 0 rows affected (0.03 sec)

    因为我的log_output参数配置的是FILE,TABLE,所以我的general log会记录在两个地方,一个是general log日志文件,一个是表中。日志保持方式的参数配置如下所示:

    mysql> show variables like 'log_output';
    +---------------+------------+
    | Variable_name | Value      |
    +---------------+------------+
    | log_output    | FILE,TABLE |
    +---------------+------------+
    1 row in set (0.02 sec)

    查看general log文件中的日志,当log_output参数有FILE的时候,general log日志文件的目录默认在datadir目录下面。前面我们开启general log的时候,因为没有显示的去指定general log日志的文件目录和文件名称,所以它默认是存放在datadir目录下,文件名称为<主机名称>.log。我可以看到在datadir目录下面如下日志:

    root@test:/var/lib/mysql# pwd
    /var/lib/mysql
    root@test:/var/lib/mysql# ls -lstr *.log
    8 -rw-r----- 1 mysql mysql 6293 Jan 13 15:40 test-slow.log
    4 -rw-r----- 1 mysql mysql 2589 Jan 13 15:50 test.log
    root@test:/var/lib/mysql# hostname
    test.mysql
    root@test:/var/lib/mysql#

    我们来看下这个日志文件中的内容是什么,具体如下所示,可以看出所有的查询语句都会被记录在general log日志中。即便是查询语句也会被记录在里面。

    上面我们看了general log日志文件中的内容,我们的配置还要去记录日志到表中,具体是记录在mysql.general_log表中。我们看下这个表中记录的内容。使用下面的SQL语句来查看表中的内容。

    select 
    	event_time,user_host,thread_id,server_id,command_type,
    	convert(argument using utf8mb4) as sql_text 
    from general_log limit 100;

    通过配置文件永久开启

    上面我们是通过set命令参数来开启的general log,下面我们采用在配置文件中配置general log日志文件参数的方式来开启。在使用配置文件来开启之前,我们先把前面我们使用set命令开启的操作给修改回去,然后再去修改配置文件来开启general log日志文件。先用下面的命令改回去。

    mysql> set global general_log=off;
    Query OK, 0 rows affected (0.02 sec)

    改回去之后,我们再去看下日志文件中的内容。

    我们在my.cnf配置文件中配置的具体参数如下,为了测试,我把general log日志文件路径和名称都修改一下。看下效果如何。修改完成如下参数后,重启MySQL服务。

    [mysqld]
    # 一般日志的开启
    general_log=1
    general_log_file=/tmp/mysql_general_log.log

    这里顺便说一下,我的MySQL实例是用docker启动的一个容器镜像。用docker启动MySQL示例,兼职不要太方便,把参数配置文件挂载到本地,随便怎么修改参数文件,然后直接一个docker restart <容器名称或容器id>,直接搞定。在以后介绍一下关于docker的一些基本使用。

    重启MySQL示例之后,啥都不做,直接去MySQL的/tmp下面看是否有mysql_general_log.log文件生成。检查结果如下,可以看到已经有general log文件生成。

    root@test:/tmp# pwd
    /tmp
    root@test:/tmp# ls
    mysql_general_log.log
    root@test:/tmp# more mysql_general_log.log
    mysqld, Version: 5.7.24-log (MySQL Community Server (GPL)). started with:
    Tcp port: 0  Unix socket: /var/run/mysqld/mysqld.sock
    Time                 Id Command    Argument
    root@test:/tmp#

    接下来,我们来执行一些SQL,看下日志是否可以正常记录在/tmp/mysql_general_log.log文件中,验证过程如下所示:

    去看下mysql.genenal_log表中是否也会正常记录,检查结果如下:

    关闭general log

    在关闭general log的是,我们只要把对应的配置在配置文件中删除或使用#注释掉,重启MySQL示例就可以了。如果不想重启MySQL数据实例,在修改完配置文件之后,在登录到MySQL命令行中,执行set global general_log=off;命令就可以马上关闭general log记录的功能,因为我们已经修改过配置文件,所以即便是MySQL重启之后,general log也不会开启了。

    如果我们只是通过set命令的方式去开启的,没有去修改配置文件。那么我们只需使用set命令的方式关闭即可了,不用去动配置文件了。在真正的debug错误的时候,推荐使用这种set命令的方式去临时开启和关闭general log日志,而不用去修改my.cnf配置文件。

    清理general log文件

    开启general log之后,日志文件会增长得很快,如果我们需要清理历史的general log文件,我们该怎么做?

  • 如果是记录在文件中,使用cp命令,把general log日志文件备份一下(如果你确定这些历史的general log不在需要,那么可以不执行备份的这一步操作),然后使用管道命令把文件内容清空。操作大致如下:
  • cp mysql_general_log.log mysql_general_log.log.bak
    echo "" > mysql_general_log.log

    注意:切记不要直接删除这个日志文件,否则这个文件不会自动生成,除非你重启MySQL数据实例。如果删除后,即便是你手动创建一个一样名称的日志文件,MySQL也不会把general日志记录进去。所以,我们只能在MySQL自己生成的文件中进行编辑,删除里面的内容。

    对于我们备份生产的文件mysql_general_log.log.bak,如果有必要留存,就拷贝到其他服务器或者其他归档存储中。如果没有必要留存,那么直接rm删除这个bak的log文件就可以了。

  • 如果是记录在表中。先试用create table xx as select命令备份个表(如果你确认不需要历史的general log,那么你可以不执行备份操作)。然后,执行truncate命令删除表中数据。操作大致如下:
  • create table mysql.general_log_bak as select * from mysql.general_log;
    truncate table mysql.general_log;

    对于我们创建的备份表mysql.general_log_bak,如果日志内容有必要留存,那么把这个表使用mysqldump备份出来然后归档存放,如果没有必要留存,那么直接drop删除这个bak的表就可以了。

    总结

    一般情况我们不会开启general log日志,因为它的增长速度太快了。磁盘很快就会被占用完了。所以一般只有在需要debug一些特别难找的bug的时候,才会使用set global general_log=on开启,在生产我们需要的debug日志以后,就直接使用set global general_log=off关闭了。这里面的日志记录很详细,在排查一下比较隐蔽的问题的时候,还是可以提供很多有用的信息的。

    MySQL的general log就分享到这里了。后面我会分享关于MySQL的最后一个日志:error错误日志。

    相关推荐

    每天一个编程技巧!掌握这7个神技,代码效率飙升200%

    “同事6点下班,你却为改BUG加班到凌晨?不是你不努力,而是没掌握‘偷懒’的艺术!本文揭秘谷歌工程师私藏的7个编程神技,每天1分钟,让你的代码从‘能用’变‘逆天’。文末附《Python高效代码模板》,...

    Git重置到某个历史节点(Sourcetree工具)

    前言Sourcetree回滚提交和重置当前分支到此次提交的区别?回滚提交是指将改动的代码提交到本地仓库,但未推送到远端仓库的时候。...

    git工作区、暂存区、本地仓库、远程仓库的区别和联系

    很多程序员天天写代码,提交代码,拉取代码,对git操作非常熟练,但是对git的原理并不甚了解,借助豆包AI,写个文章总结一下。Git的四个核心区域(工作区、暂存区、本地仓库、远程仓库)是版本控制的核...

    解锁人生新剧本的密钥:学会让往事退场

    开篇:敦煌莫高窟的千年启示在莫高窟321窟的《降魔变》壁画前,讲解员指着斑驳色彩说:"画师刻意保留了历代修补痕迹,因为真正的传承不是定格,而是流动。"就像我们的人生剧本,精彩章节永远...

    Reset local repository branch to be just like remote repository HEAD

    技术背景在使用Git进行版本控制时,有时会遇到本地分支与远程分支不一致的情况。可能是因为误操作、多人协作时远程分支被更新等原因。这时就需要将本地分支重置为与远程分支的...

    Git恢复至之前版本(git恢复到pull之前的版本)

    让程序回到提交前的样子:两种解决方法:回退(reset)、反做(revert)方法一:gitreset...

    如何将文件重置或回退到特定版本(怎么让文件回到初始状态)

    技术背景在使用Git进行版本控制时,经常会遇到需要将文件回退到特定版本的情况。可能是因为当前版本出现了错误,或者想要恢复到之前某个稳定的版本。Git提供了多种方式来实现这一需求。...

    git如何正确回滚代码(git命令回滚代码)

    方法一,删除远程分支再提交①首先两步保证当前工作区是干净的,并且和远程分支代码一致$gitcocurrentBranch$gitpullorigincurrentBranch$gi...

    [git]撤销的相关命令:reset、revert、checkout

    基本概念如果不清晰上面的四个概念,请查看廖老师的git教程这里我多说几句:最开始我使用git的时候,我并不明白我为什么写完代码要用git的一些列指令把我的修改存起来。后来用多了,也就明白了为什么。gi...

    利用shell脚本将Mysql错误日志保存到数据库中

    说明:利用shell脚本将MYSQL的错误日志提取并保存到数据库中步骤:1)创建数据库,创建表CreatedatabaseMysqlCenter;UseMysqlCenter;CREATET...

    MySQL 9.3 引入增强的JavaScript支持

    MySQL,这一广泛采用的开源关系型数据库管理系统(RDBMS),发布了其9.x系列的第三个更新版本——9.3版,带来了多项新功能。...

    python 连接 mysql 数据库(python连接MySQL数据库案例)

    用PyMySQL包来连接Python和MySQL。在使用前需要先通过pip来安装PyMySQL包:在windows系统中打开cmd,输入pipinstallPyMySQL ...

    mysql导入导出命令(mysql 导入命令)

    mysql导入导出命令mysqldump命令的输入是在bin目录下.1.导出整个数据库  mysqldump-u用户名-p数据库名>导出的文件名  mysqldump-uw...

    MySQL-SQL介绍(mysql sqlyog)

    介绍结构化查询语言是高级的非过程化编程语言,允许用户在高层数据结构上工作。它不要求用户指定对数据的存放方法,也不需要用户了解具体的数据存放方式,所以具有完全不同底层结构的不同数据库系统,可以使用相同...

    MySQL 误删除数据恢复全攻略:基于 Binlog 的实战指南

    在MySQL的世界里,二进制日志(Binlog)就是我们的"时光机"。它默默记录着数据库的每一个重要变更,就像一位忠实的史官,为我们在数据灾难中提供最后的救命稻草。本文将带您深入掌握如...