百度360必应搜狗淘宝本站头条
当前位置:网站首页 > IT技术 > 正文

3K字详解MySQL——GROUP BY优化

wptr33 2025-02-15 01:24 11 浏览


??在 MySQL 中,GROUP BY用于将具有指定列中相同值的行分组在一起。这是在处理大量数据时非常有用的功能,允许对数据进行分类和聚合。

基本使用

语法

??以下是GROUP BY子句的基本语法:

SELECT col1, col2, ..., aggregate_function(col_name)
FROM table_name
WHERE condition
GROUP BY col1, col2, ...;
复制代码

??其中,col1, col2, ...是要分组的列名,aggregate_function是用于聚合数据的函数,如SUM, AVG, MAX, MIN等。table_name是要从中检索数据的表的名称,condition是可选的查询条件。

示例

SELECT column1, column2, COUNT(*)
FROM table_name
WHERE condition
GROUP BY column1, column2
ORDER BY column1, column2;
复制代码

??在这个示例中,选择了column1column2两列,并对它们进行了分组。使用COUNT(*)函数来计算每个组中的行数。使用ORDER BY子句按column1column2升序排序结果集。

那怎么查询非分组的列名呢?

??一般来讲 SELECT 中的值要么是来自于聚合函数(sum、avg、max等)的结果,要么是来自于 group by 后面的列。

??从MySQL 5.7.5之前默认是支持的,之后的版本默认SQL模式包括ONLY_FULL_GROUP_BY,

mysql> select version();
+-----------+
| version() |
+-----------+
| 8.0.18    |
+-----------+
1 row in set (0.06 sec)
mysql> select @@global.sql_mode;
+-----------------------------------------------------------------------------------------------------------------------+
| @@global.sql_mode                                                                                                     |
+-----------------------------------------------------------------------------------------------------------------------+
| ONLY_FULL_GROUP_BY,STRICT_TRANS_TABLES,NO_ZERO_IN_DATE,
+-----------------------------------------------------------------------------------------------------------------------+
1 row in set (0.18 sec)
复制代码

??在这种模式下执行 SQL 会报下面的错误

mysql> select * from user group by age;
1055 - Expression #1 of SELECT list is not in GROUP BY clause and contains nonaggregated column xxx which is not functionally dependent on columns in GROUP BY clause; this is incompatible with sql_mode=only_full_group_by
复制代码

??可以通过下面两种方式解决:

  1. 重新设置 sql_mode,去掉ONLY_FULL_GROUP_BY即可
  2. 使用 any_value()group_concat()
  3. any_value():将分到同一组的数据里第一条数据的指定列值作为返回数据
  4. group_concat():将分到同一组的数据默认用逗号隔开作为返回数据
mysql> select age, any_value(id) from `user` GROUP BY age;
+-----+---------------+
| age | any_value(id) |
+-----+---------------+
|   3 |             0 |
|   6 |             3 |
|   7 |             5 |
|  12 |             1 |
|  14 |             2 |
|  19 |             7 |
+-----+---------------+
6 rows in set (0.15 sec)

mysql> select age, group_concat(id) from `user` GROUP BY age;
+-----+------------------+
| age | group_concat(id) |
+-----+------------------+
|   3 | 0,4              |
|   6 | 3                |
|   7 | 5                |
|  12 | 1                |
|  14 | 2                |
|  19 | 7                |
+-----+------------------+
6 rows in set (0.05 sec)
复制代码

不同版本的排序

??我们以下面这个user表为例,看下在不同版本下有什么区别?

mysql>  show create table  user;
+-------+---------------------------------+
CREATE TABLE `user` (
  `id` int(11) NOT NULL,
  `name` varchar(255) DEFAULT NULL ,
  `age` int(255) DEFAULT NULL,
  PRIMARY KEY (`id`),
  KEY `nameIndex` (`name`) USING BTREE
) ENGINE=InnoDB DEFAULT CHARSET=utf8 
+-------+---------------------------------+
mysql> select * from user;
+----+------+-----+
| id | name | age |
+----+------+-----+
|  0 | 陈   |   3 |
|  1 | 李   |  12 |
|  2 | 张   |  14 |
|  3 | 陈   |   6 |
|  4 | 李   |   3 |
|  5 | NULL |   7 |
|  7 | 张   |  19 |
+----+------+-----+
7 rows in set (0.06 sec)
复制代码

MySQL 5.7

MySQL 8.0中,

??同样的SQLMySQL 5.7中与MySQL 8.0中执行结果是不一样的,在MySQL 5.7中数据默认按照分组列升序展示,在MySQL 8.0中则没有排序,所以在MySQL 5.7中执行计划里面的 Extra 这个字段的多了一个 Using filesort

??因为在MySQL 5.7中,GROUP BY 默认隐式排序,按GROUP BY列按升序排序。如果不想在执行 GROUP BY 时执行排序的开销,可以禁用排序:

GROUP BY column_name ORDER BY NULL
复制代码

??然而,在MySQL 8.0中,GROUP BY默认不会使用排序功能,除非使用了ORDER BY语句。

工作原理

执行流程

??我们先来看下下面这条sql语句在MySQL 5.7中的执行计划:

explain select age,count(age) from user where name ='李'  GROUP BY age;
复制代码

??在Extra字段里面, 我们可以看到三个信息:

  • Using index condition: 表示这个语句使用了索引来过滤;
  • Using temporary: 表示使用了临时表;
  • Using filesort: 表示需要排序

??这个语句的执行流程是这样的:

  1. 创建一个临时表。表里有两个字段 agecount(age)、主键为 age
  2. 扫描普通索引nameIndex ,找到 name ='李' 主键 ID
  3. 通过主键ID,回表找到 age=12 字段值
  4. 判断临时表中有没有主键为 12 的行没有就插入一个记录(12,1)(12,1)就将12这一行的count(age)值加1

??遍历完成后, 需要根据字段 age 做排序

  1. 初始化sort_buffer sort_buffer中有两个字段
  2. 从内存临时表中一行一行地取出数据,分别存入sort_buffer中的两个字段里。 这个过程要对内存临时表做全表扫描。
  3. sort_buffer中根据age的值进行排序。
  4. 排序完成后,返回给客户端。

??内存临时表排序的时候使用了rowid排序方法。

"filesort_summary":{  
    "rows":2,  
    "examined_rows":2,  
    "number_of_tmp_files":0,  
    "sort_buffer_size":320,  
    "sort_mode":""  
}
复制代码

??关于 MySQL 排序这块内容,大家可以先看下这篇文章:MySQL排序优化与工作原理

临时表

内存临时表

??由于本例子只有几行数据, 内存可以放得下,因此只使用了内存临时表。 但是内存临时表的大小是有限制的, 参数 tmp_table_size 表示临时表内存大小, 默认是16M。内存临时表使用的是memory引擎。

mysql> show  variables like '%tmp_table_size%';
+----------------+---------+
| Variable_name  | Value   |
+----------------+---------+
| tmp_table_size | 2097152 |
+----------------+---------+
1 row in set (0.04 sec)
复制代码

磁盘临时表

??如果临时表大小超过了tmp_table_size, 那么内存临时表就会转成磁盘临时表。磁盘临时表使用的引擎默认是InnoDB, 是由参数
internal_tmp_disk_storage_engine
控制

mysql> show variables like '%internal_tmp_disk_storage_engine%';
+----------------------------------+--------+
| Variable_name                    | Value  |
+----------------------------------+--------+
| internal_tmp_disk_storage_engine | InnoDB |
+----------------------------------+--------+
1 row in set (0.04 sec)
复制代码

??为了复现生成磁盘临时表,把 tmp_table_size设置小一点,通过查看Created_tmp_disk_tables值,查看对应的磁盘临时表数量

mysql> set tmp_table_size=1;
select age,count(age) from user where name ='李'  GROUP BY age ORDER BY age ;
show status like '%Created_tmp%';
Query OK, 0 rows affected (0.02 sec)

+-----+------------+
| age | count(age) |
+-----+------------+
|   3 |          1 |
|  12 |          1 |
+-----+------------+
2 rows in set (0.03 sec)

+-------------------------+-------+
| Variable_name           | Value |
+-------------------------+-------+
| Created_tmp_disk_tables | 3     |
| Created_tmp_files       | 60    |
| Created_tmp_tables      | 6     |
+-------------------------+-------+
3 rows in set (0.04 sec)
复制代码

??Created_tmp_tables:在内存中创建内部临时表时或在磁盘,服务器将递增此值。

??Created_tmp_disk_tables:在磁盘上创建内部临时表时, 服务器递增此值

??一般理想的配置是:

Created_tmp_disk_tables / Created_tmp_tables * 100% <= 25%                    
复制代码

分组优化

??不论是使用内存临时表还是磁盘临时表,group by需要构造一个带唯一索引的表, 执行代价都是比较高的。如果表的数据量比较大,执行起来就会很慢。

使用索引

??如果可以确保输入的数据是有序的,那么 group by的时候, 就只需要从左到右,顺序扫描,依次累加。那就是InnoDB的索引,对索引列分组不需要临时表,也不需要排序。

增大tmp_table_size

??如果group by需要统计的数据量不大, 尽量只使用内存临时表; 可以通过适当调大 tmp_table_size参数, 来避免用到磁盘临时表。

使用SQL_BIG_RESULT

??如果一个group by语句中需要放到临时表上的数据量特别大,还是按照上面的逻辑,先放到内存临时表,插入一部分数据后,发现内存临时表不够用了再转成磁盘临时表,那感觉就没必要了,那怎么样可以直接使用磁盘临时表呢?

?? 使用SQL_BIG_RESULT, 可以与 SELECT 语句中的GROUP BYDISTINCT关键字一起使用。它的作用是告诉MySQL优化器,查询结果集较大,直接用磁盘临时表。MySQL会使用基于磁盘的临时表进行排序

?? 例如,以下是一个使用SQL_BIG_RESULT的示例:

SELECT SQL_BIG_RESULT col1, col2
FROM my_table
GROUP BY col1;
复制代码

?? 需要注意的是,使用SQL_BIG_RESULT会增加服务器的内存和CPU使用量,因此应该仔细评估是否需要使用它。通常情况下,只有在处理大型数据集时才需要使用。

禁用排序

?? 在MySQL 5.7中,如果对group by语句的结果没有排序要求,在语句后面加 order by null,禁用排序,减少不必要的排序开销。

GROUP BY和DISTINCT的区别

??首先是使用方式不同:虽然在某些情况下 DISTINCTGROUP BY 可以实现相同的结果,但通常情况下,它们用于不同的目的,一个是去重,一个是聚合。

  • DISTINCT 关键字用于返回 SELECT 查询中不同的值,即去重。它会扫描所有的行并去除重复的行。
  • GROUP BY 关键字用于将结果集按照指定列进行分组,并对每个分组执行聚合函数。

??再就是在性能上:如果在不需要执行聚合函数时,DISTINCTGROUP BY这两条语句的语义和执行流程是相同的,因此执行性能也相同

使用场景

??GROUP BY通常用于以下场景:

  • 对数据进行分类和统计
  • 按特定条件对数据进行分组
  • 进行聚合操作,如计算总数、平均数、最大值、最小值等
  • 生成报表或汇总数据

原文链接:
https://juejin.cn/post/7217665415710261305

相关推荐

每天一个编程技巧!掌握这7个神技,代码效率飙升200%

“同事6点下班,你却为改BUG加班到凌晨?不是你不努力,而是没掌握‘偷懒’的艺术!本文揭秘谷歌工程师私藏的7个编程神技,每天1分钟,让你的代码从‘能用’变‘逆天’。文末附《Python高效代码模板》,...

Git重置到某个历史节点(Sourcetree工具)

前言Sourcetree回滚提交和重置当前分支到此次提交的区别?回滚提交是指将改动的代码提交到本地仓库,但未推送到远端仓库的时候。...

git工作区、暂存区、本地仓库、远程仓库的区别和联系

很多程序员天天写代码,提交代码,拉取代码,对git操作非常熟练,但是对git的原理并不甚了解,借助豆包AI,写个文章总结一下。Git的四个核心区域(工作区、暂存区、本地仓库、远程仓库)是版本控制的核...

解锁人生新剧本的密钥:学会让往事退场

开篇:敦煌莫高窟的千年启示在莫高窟321窟的《降魔变》壁画前,讲解员指着斑驳色彩说:"画师刻意保留了历代修补痕迹,因为真正的传承不是定格,而是流动。"就像我们的人生剧本,精彩章节永远...

Reset local repository branch to be just like remote repository HEAD

技术背景在使用Git进行版本控制时,有时会遇到本地分支与远程分支不一致的情况。可能是因为误操作、多人协作时远程分支被更新等原因。这时就需要将本地分支重置为与远程分支的...

Git恢复至之前版本(git恢复到pull之前的版本)

让程序回到提交前的样子:两种解决方法:回退(reset)、反做(revert)方法一:gitreset...

如何将文件重置或回退到特定版本(怎么让文件回到初始状态)

技术背景在使用Git进行版本控制时,经常会遇到需要将文件回退到特定版本的情况。可能是因为当前版本出现了错误,或者想要恢复到之前某个稳定的版本。Git提供了多种方式来实现这一需求。...

git如何正确回滚代码(git命令回滚代码)

方法一,删除远程分支再提交①首先两步保证当前工作区是干净的,并且和远程分支代码一致$gitcocurrentBranch$gitpullorigincurrentBranch$gi...

[git]撤销的相关命令:reset、revert、checkout

基本概念如果不清晰上面的四个概念,请查看廖老师的git教程这里我多说几句:最开始我使用git的时候,我并不明白我为什么写完代码要用git的一些列指令把我的修改存起来。后来用多了,也就明白了为什么。gi...

利用shell脚本将Mysql错误日志保存到数据库中

说明:利用shell脚本将MYSQL的错误日志提取并保存到数据库中步骤:1)创建数据库,创建表CreatedatabaseMysqlCenter;UseMysqlCenter;CREATET...

MySQL 9.3 引入增强的JavaScript支持

MySQL,这一广泛采用的开源关系型数据库管理系统(RDBMS),发布了其9.x系列的第三个更新版本——9.3版,带来了多项新功能。...

python 连接 mysql 数据库(python连接MySQL数据库案例)

用PyMySQL包来连接Python和MySQL。在使用前需要先通过pip来安装PyMySQL包:在windows系统中打开cmd,输入pipinstallPyMySQL ...

mysql导入导出命令(mysql 导入命令)

mysql导入导出命令mysqldump命令的输入是在bin目录下.1.导出整个数据库  mysqldump-u用户名-p数据库名>导出的文件名  mysqldump-uw...

MySQL-SQL介绍(mysql sqlyog)

介绍结构化查询语言是高级的非过程化编程语言,允许用户在高层数据结构上工作。它不要求用户指定对数据的存放方法,也不需要用户了解具体的数据存放方式,所以具有完全不同底层结构的不同数据库系统,可以使用相同...

MySQL 误删除数据恢复全攻略:基于 Binlog 的实战指南

在MySQL的世界里,二进制日志(Binlog)就是我们的"时光机"。它默默记录着数据库的每一个重要变更,就像一位忠实的史官,为我们在数据灾难中提供最后的救命稻草。本文将带您深入掌握如...