MySQL 百万级分页查询优化
wptr33 2024-12-10 21:18 20 浏览
在MySQL中,当进行百万级记录的分页查询时,以下是一些优化方式:
一、使用索引
1. 为查询条件和排序字段添加索引
索引能够大大提高查询效率。例如,如果你的分页查询语句是`SELECT * FROM table_name WHERE condition ORDER BY column_name LIMIT offset, limit;`,那么应该为`condition`中的字段和`column_name`添加索引。
例如,有一个`users`表,包含`id`(主键)、`name`、`age`和`create_time`字段,经常按照`create_time`降序进行分页查询。可以使用以下语句添加索引:
```sql
CREATE INDEX idx_create_time ON users (create_time);
```
这样,在执行类似`SELECT * FROM users ORDER BY create_time DESC LIMIT 10000, 10;`的分页查询时,MySQL可以利用索引快速定位到相应的数据范围,而不是全表扫描。
2. 复合索引的合理使用
如果查询条件包含多个字段,考虑创建复合索引。例如,查询条件是`WHERE category = 'book' AND price > 10`,并且经常按照`price`排序进行分页。可以创建复合索引`CREATE INDEX idx_category_price ON products (category, price);`。
复合索引的最左前缀原则很重要。在上述例子中,查询时如果只使用`category`条件,索引仍然可以被部分利用;但如果只使用`price`条件,索引可能无法有效使用。
二、优化查询语句
1. 避免使用`SELECT *`
只查询需要的字段。当使用`SELECT *`时,数据库需要读取表中的所有列,这会增加数据传输量和查询的开销。例如,只需要查询`id`、`name`和`age`三个字段进行分页显示,应该使用`SELECT id, name, age FROM table_name WHERE condition ORDER BY column_name LIMIT offset, limit;`。
2. 使用子查询或临时表优化偏移量(offset)较大的情况
当`offset`很大时,比如`LIMIT 100000, 10`,MySQL需要跳过前面的100000条记录,这会导致性能下降。一种优化方法是使用子查询或临时表。
例如,先通过子查询获取主键(假设主键是`id`)的值,然后再根据主键进行关联查询。假设要查询第100001 100010条记录:
```sql
SELECT t2.* FROM (SELECT id FROM table_name LIMIT 100000, 10) AS t1 JOIN table_name AS t2 ON t1.id = t2.id;
```
或者使用临时表:
```sql
CREATE TEMPORARY TABLE temp_ids SELECT id FROM table_name LIMIT 100000, 10;
SELECT * FROM table_name JOIN temp_ids ON table_name.id = temp_ids.id;
DROP TEMPORARY TABLE temp_ids;
```
这种方式可以让MySQL更高效地定位到需要的数据,减少跳过大量记录的开销。
三、数据库配置优化
1. 调整缓存相关参数
合理配置MySQL的查询缓存(Query Cache)。查询缓存可以存储查询结果,如果相同的查询再次执行,就可以直接从缓存中获取结果,提高性能。不过在MySQL 8.0中,查询缓存已经被弃用,因为它有一些局限性,如缓存失效机制复杂等。
对于InnoDB存储引擎,合理配置缓冲池(Buffer Pool)大小。缓冲池用于缓存数据和索引页,增大缓冲池可以减少磁盘I/O。可以根据服务器的内存大小和数据库的负载情况,通过修改`innodb_buffer_pool_size`参数来调整缓冲池大小。例如,将其设置为服务器内存的70 80%(前提是服务器没有其他非常占用内存的应用程序)。
2. 调整数据库服务器硬件资源
增加内存可以让MySQL有更多的空间用于缓存数据和索引,减少磁盘I/O操作。同时,使用高速的磁盘(如SSD)可以显著提高数据读取和写入的速度,对于大数据量的分页查询性能提升也很有帮助。
相关推荐
- 每天一个编程技巧!掌握这7个神技,代码效率飙升200%
-
“同事6点下班,你却为改BUG加班到凌晨?不是你不努力,而是没掌握‘偷懒’的艺术!本文揭秘谷歌工程师私藏的7个编程神技,每天1分钟,让你的代码从‘能用’变‘逆天’。文末附《Python高效代码模板》,...
- Git重置到某个历史节点(Sourcetree工具)
-
前言Sourcetree回滚提交和重置当前分支到此次提交的区别?回滚提交是指将改动的代码提交到本地仓库,但未推送到远端仓库的时候。...
- git工作区、暂存区、本地仓库、远程仓库的区别和联系
-
很多程序员天天写代码,提交代码,拉取代码,对git操作非常熟练,但是对git的原理并不甚了解,借助豆包AI,写个文章总结一下。Git的四个核心区域(工作区、暂存区、本地仓库、远程仓库)是版本控制的核...
- 解锁人生新剧本的密钥:学会让往事退场
-
开篇:敦煌莫高窟的千年启示在莫高窟321窟的《降魔变》壁画前,讲解员指着斑驳色彩说:"画师刻意保留了历代修补痕迹,因为真正的传承不是定格,而是流动。"就像我们的人生剧本,精彩章节永远...
- Reset local repository branch to be just like remote repository HEAD
-
技术背景在使用Git进行版本控制时,有时会遇到本地分支与远程分支不一致的情况。可能是因为误操作、多人协作时远程分支被更新等原因。这时就需要将本地分支重置为与远程分支的...
- Git恢复至之前版本(git恢复到pull之前的版本)
-
让程序回到提交前的样子:两种解决方法:回退(reset)、反做(revert)方法一:gitreset...
- 如何将文件重置或回退到特定版本(怎么让文件回到初始状态)
-
技术背景在使用Git进行版本控制时,经常会遇到需要将文件回退到特定版本的情况。可能是因为当前版本出现了错误,或者想要恢复到之前某个稳定的版本。Git提供了多种方式来实现这一需求。...
- git如何正确回滚代码(git命令回滚代码)
-
方法一,删除远程分支再提交①首先两步保证当前工作区是干净的,并且和远程分支代码一致$gitcocurrentBranch$gitpullorigincurrentBranch$gi...
- [git]撤销的相关命令:reset、revert、checkout
-
基本概念如果不清晰上面的四个概念,请查看廖老师的git教程这里我多说几句:最开始我使用git的时候,我并不明白我为什么写完代码要用git的一些列指令把我的修改存起来。后来用多了,也就明白了为什么。gi...
- 利用shell脚本将Mysql错误日志保存到数据库中
-
说明:利用shell脚本将MYSQL的错误日志提取并保存到数据库中步骤:1)创建数据库,创建表CreatedatabaseMysqlCenter;UseMysqlCenter;CREATET...
- MySQL 9.3 引入增强的JavaScript支持
-
MySQL,这一广泛采用的开源关系型数据库管理系统(RDBMS),发布了其9.x系列的第三个更新版本——9.3版,带来了多项新功能。...
- python 连接 mysql 数据库(python连接MySQL数据库案例)
-
用PyMySQL包来连接Python和MySQL。在使用前需要先通过pip来安装PyMySQL包:在windows系统中打开cmd,输入pipinstallPyMySQL ...
- mysql导入导出命令(mysql 导入命令)
-
mysql导入导出命令mysqldump命令的输入是在bin目录下.1.导出整个数据库 mysqldump-u用户名-p数据库名>导出的文件名 mysqldump-uw...
- MySQL-SQL介绍(mysql sqlyog)
-
介绍结构化查询语言是高级的非过程化编程语言,允许用户在高层数据结构上工作。它不要求用户指定对数据的存放方法,也不需要用户了解具体的数据存放方式,所以具有完全不同底层结构的不同数据库系统,可以使用相同...
- MySQL 误删除数据恢复全攻略:基于 Binlog 的实战指南
-
在MySQL的世界里,二进制日志(Binlog)就是我们的"时光机"。它默默记录着数据库的每一个重要变更,就像一位忠实的史官,为我们在数据灾难中提供最后的救命稻草。本文将带您深入掌握如...
- 一周热门
-
-
C# 13 和 .NET 9 全知道 :13 使用 ASP.NET Core 构建网站 (1)
-
因果推断Matching方式实现代码 因果推断模型
-
git pull命令使用实例 git pull--rebase
-
面试官:git pull是哪两个指令的组合?
-
git 执行pull错误如何撤销 git pull fail
-
git fetch 和git pull 的异同 git中fetch和pull的区别
-
git pull 和git fetch 命令分别有什么作用?二者有什么区别?
-
git pull 之后本地代码被覆盖 解决方案
-
还可以这样玩?Git基本原理及各种骚操作,涨知识了
-
git命令之pull git.pull
-
- 最近发表
-
- 每天一个编程技巧!掌握这7个神技,代码效率飙升200%
- Git重置到某个历史节点(Sourcetree工具)
- git工作区、暂存区、本地仓库、远程仓库的区别和联系
- 解锁人生新剧本的密钥:学会让往事退场
- Reset local repository branch to be just like remote repository HEAD
- Git恢复至之前版本(git恢复到pull之前的版本)
- 如何将文件重置或回退到特定版本(怎么让文件回到初始状态)
- git如何正确回滚代码(git命令回滚代码)
- [git]撤销的相关命令:reset、revert、checkout
- 利用shell脚本将Mysql错误日志保存到数据库中
- 标签列表
-
- git pull (33)
- git fetch (35)
- mysql insert (35)
- mysql distinct (37)
- concat_ws (36)
- java continue (36)
- jenkins官网 (37)
- mysql 子查询 (37)
- python元组 (33)
- mybatis 分页 (35)
- vba split (37)
- redis watch (34)
- python list sort (37)
- nvarchar2 (34)
- mysql not null (36)
- hmset (35)
- python telnet (35)
- python readlines() 方法 (36)
- munmap (35)
- docker network create (35)
- redis 集合 (37)
- python sftp (37)
- setpriority (34)
- c语言 switch (34)
- git commit (34)