向MySQL发送一个请求的时候，MySQL到底做了些什么？

为什么要知道MySQL的执行过程呢&＃xff1f;是因为我们要对sql语句进行优化。这个是很要必要的。

1. 客户端发送一条查询给服务器。
2. 服务器先检查查询缓存&＃xff0c;如果命中了缓存&＃xff0c;则立刻返回存储在缓存中的结果。否则进入下一阶段。
3. 服务器端进行SQL解析&＃xff0c;预处理&＃xff0c;再由优化器生成对应的执行计划。
4. MySQL根据优化器生成的执行计划&＃xff0c;调用存储引擎的API执行查询。
5. 返回结果给客户端。

对关键的动作进行分析&＃xff1a;

• 客户端/服务端通信协议

MySQL客户端/服务端通信协议是“半双工”的&＃xff1a;在任一时刻&＃xff0c;要么是服务器向客户端发送数据&＃xff0c;要么是客户端向服务器发送数据&＃xff0c;这两个动作不能同时发生。一旦一端开始发送消息&＃xff0c;另一端要接收完整个消息才能响应它&＃xff0c;所以我们无法也无须将一个消息切成小块独立发送&＃xff0c;也没有办法进行流量控制。

客户端用一个单独的数据包将查询请求发送给服务器&＃xff0c;所以当查询语句很长的时候&＃xff0c;需要设置max_allowed_packet参数。但是需要注意的是&＃xff0c;如果查询实在是太大&＃xff0c;服务端会拒绝接收更多数据并抛出异常。

与之相反的是&＃xff0c;服务器响应给用户的数据通常会很多&＃xff0c;由多个数据包组成。但是当服务器响应客户端请求时&＃xff0c;客户端必须完整的接收整个返回结果&＃xff0c;而不能简单的只取前面几条结果&＃xff0c;然后让服务器停止发送。因而在实际开发中&＃xff0c;尽量保持查询简单且只返回必需的数据&＃xff0c;减小通信间数据包的大小和数量是一个非常好的习惯&＃xff0c;这也是查询中尽量避免使用 SELECT * 以及加上 LIMIT 限制的原因之一。

• 查询缓存

在解析一个查询语句前&＃xff0c;如果查询缓存是打开的&＃xff0c;那么MySQL会检查这个查询语句是否命中查询缓存中的数据。如果当前查询恰好命中查询缓存&＃xff0c;在检查一次用户权限后直接返回缓存中的结果。这种情况下&＃xff0c;查询不会被解析&＃xff0c;也不会生成执行计划&＃xff0c;更不会执行。

MySQL将缓存存放在一个引用表&＃xff08;不要理解成table&＃xff0c;可以认为是类似于HashMap的数据结构&＃xff09;&＃xff0c;通过一个哈希值索引&＃xff0c;这个哈希值通过查询本身、当前要查询的数据库、客户端协议版本号等一些可能影响结果的信息计算得来。所以两个查询在任何字符上的不同&＃xff08;例如&＃xff1a;空格、注释&＃xff09;&＃xff0c;都会导致缓存不会命中。

如果查询中包含任何用户自定义函数、存储函数、用户变量、临时表、mysql库中的系统表&＃xff0c;其查询结果都不会被缓存。比如函数NOW()或者CURRENT_DATE()会因为不同的查询时间&＃xff0c;返回不同的查询结果&＃xff0c;再比如包含CURRENT_USER或者CONNECION_ID()的查询语句会因为不同的用户而返回不同的结果&＃xff0c;将这样的查询结果缓存起来没有任何的意义。

既然是缓存&＃xff0c;就会失效&＃xff0c;那查询缓存何时失效呢&＃xff1f;MySQL的查询缓存系统会跟踪查询中涉及的每个表&＃xff0c;如果这些表&＃xff08;数据或结构&＃xff09;发生变化&＃xff0c;那么和这张表相关的所有缓存数据都将失效。正因为如此&＃xff0c;在任何的写操作时&＃xff0c;MySQL必须将对应表的所有缓存都设置为失效。

如果查询缓存非常大或者碎片很多&＃xff0c;这个操作就可能带来很大的系统消耗&＃xff0c;甚至导致系统僵死一会儿。而且查询缓存对系统的额外消耗也不仅仅在写操作&＃xff0c;读操作也不例外&＃xff1a;

1. 任何的查询语句在开始之前都必须经过检查&＃xff0c;即使这条SQL语句永远不会命中缓存

2. 如果查询结果可以被缓存&＃xff0c;那么执行完成后&＃xff0c;会将结果存入缓存&＃xff0c;也会带来额外的系统消耗

基于此&＃xff0c;我们要知道并不是什么情况下查询缓存都会提高系统性能&＃xff0c;缓存和失效都会带来额外消耗&＃xff0c;只有当缓存带来的资源节约大于其本身消耗的资源时&＃xff0c;才会给系统带来性能提升。

但要如何评估打开缓存是否能够带来性能提升是一件非常困难的事情&＃xff0c;也不在本文讨论的范畴内。

如果系统确实存在一些性能问题&＃xff0c;可以尝试打开查询缓存&＃xff0c;并在数据库设计上做一些优化&＃xff0c;比如&＃xff1a;

1. 用多个小表代替一个大表&＃xff0c;注意不要过度设计

2. 批量插入代替循环单条插入

3. 合理控制缓存空间大小&＃xff0c;一般来说其大小设置为几十兆比较合适

4. 可以通过SQL_CACHE和SQL_NO_CACHE来控制某个查询语句是否需要进行缓存

最后的忠告是不要轻易打开查询缓存&＃xff0c;特别是写密集型应用&＃xff0c;可以说是弊大于利&＃xff0c;全部关闭。也可以考虑利用Redis、Memcached当充当缓存。

当然查询缓存系统本身是非常复杂的&＃xff0c;这里讨论的也只是很小的一部分&＃xff0c;其他更深入的话题&＃xff0c;比如&＃xff1a;缓存是如何使用内存的&＃xff1f;如何控制内存的碎片化&＃xff1f;事务对查询缓存有何影响等等&＃xff0c;读者可以自行阅读相关资料&＃xff0c;这里权当抛砖引玉吧。

(8条消息) 缓存——项目中缓存是如何使用的&＃xff1f;为什么要用缓存&＃xff1f;缓存使用不当会造成什么后果&＃xff1f;_一棵大树-CSDN博客_清理缓存怎么操作

• 语法解析和预处理

MySQL通过关键字将SQL语句进行解析&＃xff0c;并生成一颗对应的解析树。这个过程解析器主要通过语法规则来验证和解析。比如SQL中是否使用了错误的关键字或者关键字的顺序是否正确等等。预处理则会根据MySQL规则进一步检查解析树是否合法。比如检查要查询的数据表和数据列是否存在等等。

• 查询优化

经过前面的步骤生成的语法树被认为是合法的了&＃xff0c;并且由优化器将其转化成查询计划。多数情况下&＃xff0c;一条查询可以有很多种执行方式&＃xff0c;最后都返回相应的结果。优化器的作用就是找到这其中最好的执行计划。

MySQL使用基于成本的优化器&＃xff0c;它尝试预测一个查询使用某种执行计划时的成本&＃xff0c;并选择其中成本最小的一个。在MySQL可以通过查询当前会话的last_query_cost的值来得到其计算当前查询的成本。

show status like &＃39;last_query_cost&＃39;;


这个结果是根据一些列的统计信息计算得来的&＃xff0c;这些统计信息包括&＃xff1a;每张表或者索引的页面个数、索引的基数、索引和数据行的长度、索引的分布情况等等。

有非常多的原因会导致MySQL选择错误的执行计划&＃xff0c;比如统计信息不准确、不会考虑不受其控制的操作成本&＃xff08;用户自定义函数、存储过程&＃xff09;、MySQL认为的最优跟我们想的不一样&＃xff08;我们希望执行时间尽可能短&＃xff0c;但MySQL值选择它认为成本小的&＃xff0c;但成本小并不意味着执行时间短&＃xff09;等等。

MySQL的查询优化器是一个非常复杂的部件&＃xff0c;它使用了非常多的优化策略来生成一个最优的执行计划&＃xff1a;

1. 重新定义表的关联顺序&＃xff08;多张表关联查询时&＃xff0c;并不一定按照SQL中指定的顺序进行&＃xff0c;但有一些技巧可以指定关联顺序&＃xff09;

2. 优化MIN()和MAX()函数&＃xff08;找某列的最小值&＃xff0c;如果该列有索引&＃xff0c;只需要查找B&＃43;Tree索引最左端&＃xff0c;反之则可以找到最大值&＃xff0c;具体原理见下文&＃xff09;

3. 提前终止查询&＃xff08;比如&＃xff1a;使用Limit时&＃xff0c;查找到满足数量的结果集后会立即终止查询&＃xff09;

4. 优化排序&＃xff08;在老版本MySQL会使用两次传输排序&＃xff0c;即先读取行指针和需要排序的字段在内存中对其排序&＃xff0c;然后再根据排序结果去读取数据行&＃xff0c;而新版本采用的是单次传输排序&＃xff0c;也就是一次读取所有的数据行&＃xff0c;然后根据给定的列排序。对于I/O密集型应用&＃xff0c;效率会高很多&＃xff09;

随着MySQL的不断发展&＃xff0c;优化器使用的优化策略也在不断的进化&＃xff0c;这里仅仅介绍几个非常常用且容易理解的优化策略&＃xff0c;其他的优化策略&＃xff0c;大家自行查阅吧。

• 查询执行引擎

在完成解析和优化阶段以后&＃xff0c;MySQL会生成对应的执行计划&＃xff0c;查询执行引擎根据执行计划给出的指令逐步执行得出结果。整个执行过程的大部分操作均是通过调用存储引擎实现的接口来完成&＃xff0c;这些接口被称为handler API。查**询过程中的每一张表由一个handler实例表示。**实际上&＃xff0c;MySQL在查询优化阶段就为每一张表创建了一个handler实例&＃xff0c;优化器可以根据这些实例的接口来获取表的相关信息&＃xff0c;包括表的所有列名、索引统计信息等。存储引擎接口提供了非常丰富的功能&＃xff0c;但其底层仅有几十个接口&＃xff0c;这些接口像搭积木一样完成了一次查询的大部分操作。

• 返回结果给客户端

查询执行的最后一个阶段就是将结果返回给客户端。即使查询不到数据&＃xff0c;MySQL仍然会返回这个查询的相关信息&＃xff0c;比如改查询影响到的行数以及执行时间等等。

如果查询缓存被打开且这个查询可以被缓存&＃xff0c;MySQL也会将结果存放到缓存中。

结果集返回客户端是一个增量且逐步返回的过程。有可能MySQL在生成第一条结果时&＃xff0c;就开始向客户端逐步返回结果集了。这样服务端就无须存储太多结果而消耗过多内存&＃xff0c;也可以让客户端第一时间获得返回结果。需要注意的是&＃xff0c;结果集中的每一行都会以一个满足图中①中所描述的通信协议的数据包发送&＃xff0c;再通过TCP协议进行传输&＃xff0c;在传输过程中&＃xff0c;可能对MySQL的数据包进行缓存然后批量发送。