百度360必应搜狗淘宝本站头条
当前位置:网站首页 > IT技术 > 正文

MySQL的日志 - general log

wptr33 2025-03-04 14:22 20 浏览

关注我「程序猿集锦」,获取更多分享资料。

  • 前言
  • general log
  • 如何开启 general log
  • general log的参数
  • general log开启示例
  • 通过命令暂时开启
  • 通过配置文件永久开启
  • 关闭general log
  • 清理general log文件
  • 总结
  • 前言

    在前面的文章中我们介绍了slow query log慢查询日志、binlog二进制日志、relaylog中继日志、redolog重做日志、undolog回滚日志。今天我们来了解一下general log一般日志,有时候也叫做普通日志。

    general log

    在默认情况下,MySQL是不会打开general log的,这个log里面会记录MySQL所有的SQL语句,不管是查询语句,还是DML语句,还是DDL语句,还是DCL语句,这些语句统统都会被记录在general log文件中。就连我们连接和断开MySQL数据库的这些语句。

    MySQL会把它收到的所有SQL语句按照接收的顺序依次记录在general log中。我们需要注意的是,这里接受的SQL语句的顺序,并不等于SQL语句就是按照这个接受的顺序来执行,因为有的时候,一些SQL可能需要等待其他锁被释放后才会被真正的执行,SQL语句的执行顺序是和binlog中的顺序是相匹配的。

    假如我们执行一个select查询语句,在binlog中不会记录这样的SQL语句,但是在general log中就会记录这个select查询语句。

    General log默认不开启的原因有两个:

  • 日志将会非常大,对磁盘是一个很大的压力。因为所有的操作都会被记录下来。
  • 对MySQL数据的性能有一定的影响。
  • 所以,我们一般不会开启这个general log记录的功能,只有在排查某些错误的时候,才会临时打开一下,等到debug完成之后,再把它关闭。

    如何开启 general log

    如果在配置文件中永久开启:

    [mysqld]
    general_log=1
    general_log_file=mysql_general_log.log
    log_output=/var/lib/mysql

    在SQL命令行中临时开启:

    mysql> show variables like 'general_log'; -- 查看日志是否开启
    +---------------+-------+
    | Variable_name | Value |
    +---------------+-------+
    | general_log   | OFF   |
    +---------------+-------+
    1 row in set (0.02 sec)
    
    mysql>
    mysql> show variables like 'general_log_file'; -- 看看日志文件保存位置
    +------------------+-------------------------+
    | Variable_name    | Value                   |
    +------------------+-------------------------+
    | general_log_file | /var/lib/mysql/test.log |
    +------------------+-------------------------+
    1 row in set (0.02 sec)
    
    mysql>
    mysql> show variables like 'log_output'; -- 看看日志输出类型 table或file
    +---------------+------------+
    | Variable_name | Value      |
    +---------------+------------+
    | log_output    | FILE,TABLE |
    +---------------+------------+
    1 row in set (0.01 sec)

    general log的参数

    general log的参数主要有以下几个:

  • genral_log:用于控制是否开启general log。等于0表示关闭,等于1表示开启。默认是0
  • general_log_file:general log日志的文件名是什么,如果不配置这个参数的话,默认会以MySQL服务器的hostname作为general log日志的文件名称,具体文件为:.log,general log日志的存放路径。如果不指定,则默认放在datadir参数所指定的目录下。也可以在这个参数中指定具体的路径+名称。
  • log_output:general log输出的方式,是输出表中,还是保存到文件中。这个参数的取值范围为:table,或者file。默认是保存到file文件中。这个参数是和慢查询日志是共用的,慢查询的日志是记录在表中还是只记录在文件中,也是用这个参数来控制。如果配置为table,就会把慢查询日志和general log日志都写在mysql.geneal_log表中。如果这个参数配置为table,file则表示即写入表中,也写入日志文件中,两个地方都写入日志。
  • 在开启了general log的前提下,如果在某个session连接中,不想让此次操作的所有SQL被记录在general log中,则可以在session中执行set session sql_log_off=on就可以关闭当前session的操作被记录在general log中。

    general log开启示例

    接下里我们会针对开启general log做两个实验:

    1. 在命令行中,通过命令暂时开启。这种开启方式,在MySQL实例被重启的以后,会失效。
    2. 在配置文件中,配置参数开启。这种开启方式,永久生效,即便MySQL实例重启后,仍然有效。

    通过命令暂时开启

    我们来开启general log感受一下,下面我们登录到MySQL的命令行窗口,使用set global general_log=on;命令来开启。开启过程如下所示:

    mysql> set session general_log=on; -- 这是一个全局参数,不能只针对当前session启用。
    ERROR 1229 (HY000): Variable 'general_log' is a GLOBAL variable and should be set with SET GLOBAL
    mysql> set global general_log=on; -- 对全局开启general log
    Query OK, 0 rows affected (0.03 sec)

    因为我的log_output参数配置的是FILE,TABLE,所以我的general log会记录在两个地方,一个是general log日志文件,一个是表中。日志保持方式的参数配置如下所示:

    mysql> show variables like 'log_output';
    +---------------+------------+
    | Variable_name | Value      |
    +---------------+------------+
    | log_output    | FILE,TABLE |
    +---------------+------------+
    1 row in set (0.02 sec)

    查看general log文件中的日志,当log_output参数有FILE的时候,general log日志文件的目录默认在datadir目录下面。前面我们开启general log的时候,因为没有显示的去指定general log日志的文件目录和文件名称,所以它默认是存放在datadir目录下,文件名称为<主机名称>.log。我可以看到在datadir目录下面如下日志:

    root@test:/var/lib/mysql# pwd
    /var/lib/mysql
    root@test:/var/lib/mysql# ls -lstr *.log
    8 -rw-r----- 1 mysql mysql 6293 Jan 13 15:40 test-slow.log
    4 -rw-r----- 1 mysql mysql 2589 Jan 13 15:50 test.log
    root@test:/var/lib/mysql# hostname
    test.mysql
    root@test:/var/lib/mysql#

    我们来看下这个日志文件中的内容是什么,具体如下所示,可以看出所有的查询语句都会被记录在general log日志中。即便是查询语句也会被记录在里面。

    上面我们看了general log日志文件中的内容,我们的配置还要去记录日志到表中,具体是记录在mysql.general_log表中。我们看下这个表中记录的内容。使用下面的SQL语句来查看表中的内容。

    select 
    	event_time,user_host,thread_id,server_id,command_type,
    	convert(argument using utf8mb4) as sql_text 
    from general_log limit 100;

    通过配置文件永久开启

    上面我们是通过set命令参数来开启的general log,下面我们采用在配置文件中配置general log日志文件参数的方式来开启。在使用配置文件来开启之前,我们先把前面我们使用set命令开启的操作给修改回去,然后再去修改配置文件来开启general log日志文件。先用下面的命令改回去。

    mysql> set global general_log=off;
    Query OK, 0 rows affected (0.02 sec)

    改回去之后,我们再去看下日志文件中的内容。

    我们在my.cnf配置文件中配置的具体参数如下,为了测试,我把general log日志文件路径和名称都修改一下。看下效果如何。修改完成如下参数后,重启MySQL服务。

    [mysqld]
    # 一般日志的开启
    general_log=1
    general_log_file=/tmp/mysql_general_log.log

    这里顺便说一下,我的MySQL实例是用docker启动的一个容器镜像。用docker启动MySQL示例,兼职不要太方便,把参数配置文件挂载到本地,随便怎么修改参数文件,然后直接一个docker restart <容器名称或容器id>,直接搞定。在以后介绍一下关于docker的一些基本使用。

    重启MySQL示例之后,啥都不做,直接去MySQL的/tmp下面看是否有mysql_general_log.log文件生成。检查结果如下,可以看到已经有general log文件生成。

    root@test:/tmp# pwd
    /tmp
    root@test:/tmp# ls
    mysql_general_log.log
    root@test:/tmp# more mysql_general_log.log
    mysqld, Version: 5.7.24-log (MySQL Community Server (GPL)). started with:
    Tcp port: 0  Unix socket: /var/run/mysqld/mysqld.sock
    Time                 Id Command    Argument
    root@test:/tmp#

    接下来,我们来执行一些SQL,看下日志是否可以正常记录在/tmp/mysql_general_log.log文件中,验证过程如下所示:

    去看下mysql.genenal_log表中是否也会正常记录,检查结果如下:

    关闭general log

    在关闭general log的是,我们只要把对应的配置在配置文件中删除或使用#注释掉,重启MySQL示例就可以了。如果不想重启MySQL数据实例,在修改完配置文件之后,在登录到MySQL命令行中,执行set global general_log=off;命令就可以马上关闭general log记录的功能,因为我们已经修改过配置文件,所以即便是MySQL重启之后,general log也不会开启了。

    如果我们只是通过set命令的方式去开启的,没有去修改配置文件。那么我们只需使用set命令的方式关闭即可了,不用去动配置文件了。在真正的debug错误的时候,推荐使用这种set命令的方式去临时开启和关闭general log日志,而不用去修改my.cnf配置文件。

    清理general log文件

    开启general log之后,日志文件会增长得很快,如果我们需要清理历史的general log文件,我们该怎么做?

  • 如果是记录在文件中,使用cp命令,把general log日志文件备份一下(如果你确定这些历史的general log不在需要,那么可以不执行备份的这一步操作),然后使用管道命令把文件内容清空。操作大致如下:
  • cp mysql_general_log.log mysql_general_log.log.bak
    echo "" > mysql_general_log.log

    注意:切记不要直接删除这个日志文件,否则这个文件不会自动生成,除非你重启MySQL数据实例。如果删除后,即便是你手动创建一个一样名称的日志文件,MySQL也不会把general日志记录进去。所以,我们只能在MySQL自己生成的文件中进行编辑,删除里面的内容。

    对于我们备份生产的文件mysql_general_log.log.bak,如果有必要留存,就拷贝到其他服务器或者其他归档存储中。如果没有必要留存,那么直接rm删除这个bak的log文件就可以了。

  • 如果是记录在表中。先试用create table xx as select命令备份个表(如果你确认不需要历史的general log,那么你可以不执行备份操作)。然后,执行truncate命令删除表中数据。操作大致如下:
  • create table mysql.general_log_bak as select * from mysql.general_log;
    truncate table mysql.general_log;

    对于我们创建的备份表mysql.general_log_bak,如果日志内容有必要留存,那么把这个表使用mysqldump备份出来然后归档存放,如果没有必要留存,那么直接drop删除这个bak的表就可以了。

    总结

    一般情况我们不会开启general log日志,因为它的增长速度太快了。磁盘很快就会被占用完了。所以一般只有在需要debug一些特别难找的bug的时候,才会使用set global general_log=on开启,在生产我们需要的debug日志以后,就直接使用set global general_log=off关闭了。这里面的日志记录很详细,在排查一下比较隐蔽的问题的时候,还是可以提供很多有用的信息的。

    MySQL的general log就分享到这里了。后面我会分享关于MySQL的最后一个日志:error错误日志。

    相关推荐

    MySQL进阶五之自动读写分离mysql-proxy

    自动读写分离目前,大量现网用户的业务场景中存在读多写少、业务负载无法预测等情况,在有大量读请求的应用场景下,单个实例可能无法承受读取压力,甚至会对业务产生影响。为了实现读取能力的弹性扩展,分担数据库压...

    Postgres vs MySQL_vs2022连接mysql数据库

    ...

    3分钟短文 | Laravel SQL筛选两个日期之间的记录,怎么写?

    引言今天说一个细分的需求,在模型中,或者使用laravel提供的EloquentORM功能,构造查询语句时,返回位于两个指定的日期之间的条目。应该怎么写?本文通过几个例子,为大家梳理一下。学习时...

    一文由浅入深带你完全掌握MySQL的锁机制原理与应用

    本文将跟大家聊聊InnoDB的锁。本文比较长,包括一条SQL是如何加锁的,一些加锁规则、如何分析和解决死锁问题等内容,建议耐心读完,肯定对大家有帮助的。为什么需要加锁呢?...

    验证Mysql中联合索引的最左匹配原则

    后端面试中一定是必问mysql的,在以往的面试中好几个面试官都反馈我Mysql基础不行,今天来着重复习一下自己的弱点知识。在Mysql调优中索引优化又是非常重要的方法,不管公司的大小只要后端项目中用到...

    MySQL索引解析(联合索引/最左前缀/覆盖索引/索引下推)

    目录1.索引基础...

    你会看 MySQL 的执行计划(EXPLAIN)吗?

    SQL执行太慢怎么办?我们通常会使用EXPLAIN命令来查看SQL的执行计划,然后根据执行计划找出问题所在并进行优化。用法简介...

    MySQL 从入门到精通(四)之索引结构

    索引概述索引(index),是帮助MySQL高效获取数据的数据结构(有序),在数据之外,数据库系统还维护者满足特定查询算法的数据结构,这些数据结构以某种方式引用(指向)数据,这样就可以在这些数据结构...

    mysql总结——面试中最常问到的知识点

    mysql作为开源数据库中的榜一大哥,一直是面试官们考察的重中之重。今天,我们来总结一下mysql的知识点,供大家复习参照,看完这些知识点,再加上一些边角细节,基本上能够应付大多mysql相关面试了(...

    mysql总结——面试中最常问到的知识点(2)

    首先我们回顾一下上篇内容,主要复习了索引,事务,锁,以及SQL优化的工具。本篇文章接着写后面的内容。性能优化索引优化,SQL中索引的相关优化主要有以下几个方面:最好是全匹配。如果是联合索引的话,遵循最...

    MySQL基础全知全解!超详细无废话!轻松上手~

    本期内容提醒:全篇2300+字,篇幅较长,可搭配饭菜一同“食”用,全篇无废话(除了这句),干货满满,可收藏供后期反复观看。注:MySQL中语法不区分大小写,本篇中...

    深入剖析 MySQL 中的锁机制原理_mysql 锁详解

    在互联网软件开发领域,MySQL作为一款广泛应用的关系型数据库管理系统,其锁机制在保障数据一致性和实现并发控制方面扮演着举足轻重的角色。对于互联网软件开发人员而言,深入理解MySQL的锁机制原理...

    Java 与 MySQL 性能优化:MySQL分区表设计与性能优化全解析

    引言在数据库管理领域,随着数据量的不断增长,如何高效地管理和操作数据成为了一个关键问题。MySQL分区表作为一种有效的数据管理技术,能够将大型表划分为多个更小、更易管理的分区,从而提升数据库的性能和可...

    MySQL基础篇:DQL数据查询操作_mysql 查

    一、基础查询DQL基础查询语法SELECT字段列表FROM表名列表WHERE条件列表GROUPBY分组字段列表HAVING分组后条件列表ORDERBY排序字段列表LIMIT...

    MySql:索引的基本使用_mysql索引的使用和原理

    一、索引基础概念1.什么是索引?索引是数据库表的特殊数据结构(通常是B+树),用于...