索引的创建与设计原则
一、索引的分类
MySQL的索引包括普通索引 、唯一性索引 、全文索引 、单列索引 、多列索引 和空间索引 等。
- 从
功能逻辑上 说,索引主要有4种,分别是普通索引 、唯一索引 、主键索引 、全文索引 - 按照
物理实现方式 ,索引可以分为2种:聚簇索引 和非聚簇索引 。 - 按照
作用字段个数 进行划分,分成单列索引 和联合索引 。
在创建普通索引时,不附加任何限制条件 ,只是用于提高查询效率 。这类索引可以创建在任何数据类型中,其值是否唯一和非空,要由字段本身的完整性约束条件决定。建立索引以后,可以通过索引进行查询。 例如,在表 student的字段name上建立一个普通索引,查询记录时就可以根据该索引进行查询。
使用UNIQUE参数 可以设置索引为唯一性索引, 在创建唯一性索引时,限制该索引的值必须是唯一的 , 但允许有空值 。在一张数据表里可以有多个唯一索引 。 例如。在表student的字段email中创建唯一性索引,那么字段email的值就必须是唯一 的。通过唯一性索引,可以更快速地确定某条记录 。
主键索引就是一种特殊的唯一性索引,在唯一索引的基础上增加了不为空的约束,也就是NOT NULL+UNIQUE ,一张表里最多只有一个主键索引 。 这是由主键索引的物理实现方式决定的,因为数据存储在文件中只能按照一种顺序进行存储。
在表中的单个字段上创建索引 。单列索引只根据该字段进行索引。单列索引可以是普通索引 ,也可以是唯一性索引 ,还可以是全文索引 。只要保证该索只对应一个字段即可,一个表可以有多个单列索引 。
多列索引是在表的多个字段组合上创建一个索引 。该索引指向创建时对应的多个字段 ,可以通过这几个字段进行查询,但是只有查询条件中使用了这些字段中的第一个字段时才会被使用 。 例如,在表中的字段id,name和gender上建立一个多列索引 idx_ id_name_gender ,只有在查询条件中使用了字段id(第一个字段 )时该索引才会被使用。 使用组合索引时遵循最左前缀集合 。
全文索引(也称全文检索)是目前搜索引擎使用的一种关键技术 。 它能够利用[分词技术] 等多种算法智能分析出文本文字中关键词的频率和重要性,然后按照一定的算法规则智能地筛选出我们想要的搜索结果。 全文索引非常适合大型数据集 ,对于小的数据集,它的用处比较小。
使用参数FULLTEXT 可以设置索引为全文索引。在定义索引的列上支持值的全文查找,允许在这些索引列中插入重复值和空值。全文索引只能创建在CHAR、VARCHAR 或TEXT类型及其系列类型的字段上 ,查询数据量较大的字符串类型的字段时,使用全文索引可以提高查询速度。 例如,表student的字段information是TEXT类型,该字段包含了很多文字信息。在字段information, 上建立全文索引后,可以提高查询字段information的速度。
全文索引典型的有两种类型:自然语言的全文索引 和布尔全文索引 。
自然语言搜索引擎 将计算每一个文档对象和查询的相关度。这里,相关度是基于匹配的关键词的个数,以及关键词在文档中出现的次数。在整个索引中出现次数越少的词语,匹配时的相关度就越高 。相反,非常常见的单词将不会被搜索,如果一个词语的在超过50%的记录中都出现了,那么自然语言的搜索将不会搜索这类词语。
使用参数SPATIAL 可以设置索引为空间素引。空间索引只能建立在空间数据类型上,这样可以提高系统获取空间数据的效率 。MySQL中的空间数据类型包括GEOMETRY 、POINT 、LINESTRING 和POLYGON 等。 目前只有MyISAM存储引擎支持空间检索 ,而且索引的字段不能为空值 。对于初学者来说,这类索引很少会用到。
二、索引的声明和使用
MySQL支持多种方法在单个或多个列上创建索引:
- 在创建表的定义语句
CREATE TABLE 中指定索引列, - 使用
ALTER TABLE 语句在存在的表上创建索引,或者使用CREATE INDEX 语句在已存在的表上添加索引。
show create table 表名;
show index from 表名;
explain select * from 表名 where 索引字段 = ‘’;
- 创建索引方式一:CREATE TABLE 中指定索引
- 隐式自动创建索引:
在声明有主键约束、唯一 性约束、外键约束的字段上,会自动 的添加相关的索引
- 显示创建索引语法:
UNIQUE 、 FULLTEXT 和SPATIAL 为可选参数,分别表示唯一索引全文索引和空间索引INDEX 与KEY 为同义词,两者的作用相同,用来指定创建索引index_name 指定索引的名称,为可选参数,如果不指定,那么MySQL默认col_name 为索引名co1_name 为需要创建索引的字段列,该列必须从数据表中定义的多个列中选择;length 为可选参数,表示索引的长度,只有字符串类型的字段才能指定索引长度;ASC 或DESC 指定升序或者降序的索引值存储。
CREATE TABLE 表名 (
[col_name data_type,]
[UNIQUE | FULLTEXT | SPATIAL | INDEX |KEY] [index_name] (col_name [length]) [ASC | DESC])
CREATE TABLE book(
book_id INT,
book_name VARCHAR(100),
info VARCHAR(100),
conmment VARCHAR(100),
year_publication YEAR,
INDEX index_book_name(book_name),
UNIQUE index_conmment(conmment),
INDEX mul_index_book_id_name(book_id,book_name)
);
FULLTEXT 全文索引可以用于全文搜索,并且只为CHAR 、VARCHAR 和TEXT 类型的列创建索引。全文索引索引总是对整个列进行,不支持局部(前缀)索引.
CREATE TABLE book1(
book_id INT,
book_name VARCHAR(100),
info VARCHAR(100),
conmment VARCHAR(100),
year_publication YEAR,
FULLTEXT KEY index_full(book_name,info)
)
全文索引用match+against方式查询 注意点:
- 使用全文索引前,搞清楚版本支持情况;
- 全文索引比like+ %快N倍,但是可能存在精度问题:
- 如果需要全文索引的是大量数据,建议先添加数据,再创建索引
select * from 表名 where match(全文索引字段1,字段2,...) against ('查询的字符串');
- 使用ALTER TABEL或CREATE INDEX 在已创建的表中添加索引
alter table 表名 add index [索引类型] 索引名(字段);
create [索引类型] index 索引名 on 表名(字段名)
- 添加
AUTO_INCREMENT 约束字段的唯一索引 不能被删除。 - 删除表中的列时,如果要删除的列为索引的组成部分,则该列也会从索引中删除。如果组成索引的所有列都被删除,则整个索引将被删除。
alter table 表名 drop index 索引名;
drop index 索引名 on 表名;
三、mysql8.0索引新特性
MySQL在8.0版本之前创建的仍然是升序索引 ,使用时进行反向扫描,这大大降低了数据库的效率。在某些场景下,降序索引 意义重大。 例如,如果一个查询, 需要对多个列进行排序,且顺序要求不一致,那么使用降序索引将会避免数据库使用额外的文件排序操作 ,从而提高性能。
CREATE TABLE test_desc(
a INT,
b INT,
INDEX index_a_b(a ASC, b DESC)
);
在MySQL 5.7版本及之前,只能通过显式的方式删除索引 .此时,如果发现删除索引后出现错误,又只能通过显式创建索引的方式将删除的索引|创建回来。如果数据表中的数据量非常大,或者数据表本身比较大,这种操作就会消耗系统过多的资源,操作成本非常高。 从MySQL 8.x开始支持隐藏索引 (invisible indexes) , 只需要将待删除的索引设置为隐藏索引 ,使查询优化器不再使用这个索引(即使使用force index (强制使用索引),优化器也不会使用该索引), 确认将索引设置为隐藏索引后系统不受任何响应,就可以彻底删除索引。这种通过先将索引设置为隐藏索引,再删除索引的方式就是软删除。 同时,如果你想验证某个索引删除之后的查询性能影响 ,就可以暂时先隐藏该索引。
主键不能被设置为隐藏索引 。当表中没有显式主键时,表中第一个唯一 非空索引会成为隐式主键,也不能设置为隐藏索引。 索引默认是可见的 ,在使用CREATE TABLE,CREATE INDEX 或者ALTER TABLE 等语句时可以通过VISIBLE 或者INVISIBLE 关键词设置索引的可见性。
CREATE TABLE book2(
book_id INT,
book_name VARCHAR(100),
info VARCHAR(100),
conmment VARCHAR(100),
year_publication YEAR,
INDEX index_conmment(conmment) invisible
);
alter table 表名 add index 索引名(字段) invisible;
create index 索引名 on 索引名(字段) invisible;
alter index 表名 alter 索引名 [invisible | visible];
当索引被隐藏时,它的内容仍然是和正常索引一样实时更新的。如果一个索引需要长期被隐藏,那么可以将其删除,因为索引的存在会影响插入、更新和删除的性能 。
select @@optimizer_switch \G;
set session optimizer_switch='use_
invisible_indexes=on';
四、索引的设计原则
1. 适合创建索引的情况
索引本身可以起到约束的作用。比如唯一索引、主键索引都是可以起到唯一性约束的 ,因此在我们的数据表中,如果某个字段是唯一性 的,就可以直接创建唯一性索引 ,或者主键索引 。这样可以更快速地通过该索引来确定某条记录。 业务上具有唯一特性的字段,即使是组合字段 ,也必须建成唯一索引。(来源: Alibaba) 说明 :不要以为唯一索引影响了insert速度,这个速度损耗可以忽略,但提高查找速度是明显的。
某个字段在SELECT语句的WHERE条件 中经常被使用到,那么就需要给这个字段创建索引了。尤其是在数据量大的情况下,创建普通索引就可以大幅提升数据查询的效率
SELECT `student_id`,`name`,`course_id`,`create_time`
FROM `student_info`
WHERE `student_id`=123110;
ALTER TABLE `student_info` ADD INDEX index_sid(`student_id`);
SHOW INDEX FROM `student_info`;
SELECT `student_id`,`name`,`course_id`,`create_time`
FROM `student_info`
WHERE `student_id`=123110;
索引就是让数据按照某种顺序进行存储或检索,因此当我们使用GROUP BY 对数据进行分组查询 ,或者使用ORDER BY 对数据进行排序 的时候,就需要对分组或者排序的字段进行索引。如果待排序的列有多个,那么可以在这些列上建立组合索引 。
对数据按照某个条件进行查询后再进行UPDATE 或 DELETE 的操作,如果对WHERE字段创建了索引 ,就能大幅提升效率。原理是因为我们需要先根据WHERE条件列检索出来这条记录,然后再对它进行更新或删除。如果进行更新的时候,更新的字段是非索引字段,提升的效率会更明显,这是因为非索引字段更新不需要对索引进行维护 。
因为索引会对数据按照某种顺序进行排序。所以在去重的时候也会快很多。
首先,连接表的数量尽量不要超过3张 ,因为每增加一张表就相当于增加了一次嵌套的循环,数量级增长会非常快,严重影响查询的效率。 其次,对WHERE条件创建索引 ,因为WHERE才是对数据条件的过滤。如果在数据量非常大的情况下,没有WHERE条件过滤是非常可怕的。 最后,对用于连接的字段创建索引 ,并且该字段在多张表中的类型必须一致。比如course_id在student_info表和course表中都为int(11)类型,而不能一个为int另一个为varchar类型。
我们这里所说的类型大小 指的就是该类型表示的数据范围的大小 。 我们在定义表结构的时候要显式的指定列的类型,以整数类型为例,有TINYINT 、MEDIUMINT 、INT 、BIGINT 等,它们占用的存储空间依次递增,能表示的整数范围当然也是依次递增,如果我们想要对某个整数列建立索引的话,在表示的整数范围允许的情况下,尽量让索引列使用较小的类型 ,比如我们能使用INT就不要使用BIGINT,能使用MEDIUMINT就不要使用INT。 这是因为:
数据类型越小,在查询时进行的比较操作越快 数据类型越小,索引占用的存储空间就越少,在一个数据页内就可以放下更多的记录,从而减少磁盘I/0带来的性能损耗,也就意味着可以把更多的数据页缓存在内存中,从而加快读写效率 。
这个建议对于表的主键来说更加适用 ,因为不仅是聚簇索引中会存储主键值,其他所有的二级索引|的节点处都会存储一份记录的主键值,如果主键使用更小的数据类型,也就意味着节省更多的存储空间和更高效的I/0 。
假设字符串很长,那存储一个字符串就需要占用很大的存储空间。 在我们需要为这个字符事列建立索引时,那就意味着在对应的B+树中有这么两个问题:
B+树索引中的记最需要把该列的完整字符串存储起来,更费时。而且字符串越长,在索引中占用的存储空间越大 。如果B+树索引中索引列存储的字符串很长,那在做字符串比较时会占用更多的时间。
我们可以通过截取字段的前面一部分内容建立索引 ,这个就叫前缀索引 。这样在查找记录时虽然不能精确的定位到记录的位置,但是能定位到相应前缀所在的位置,然后根据前缀相同的记录的主键值回表查询完整的字符串值。既节约空间 ,又减少了字符串的比较时间 ,还大体能解决排序的问题。
问题是,截取多少呢?截取得多了,达不到节省索引存储空间的目的;截取得少了,重复内容太多,字段的散列度(选择性)会降低。怎么计算不同的长度的选择性呢 ? 计算截取长度的公式(区分度 ): count(distinct left(列名,索引长度))/count(*)
在Alibaba (Java开发手册》中 [强制的一条 ] 在varchar字段上建立索引时,必须指定索引长度 ,没必要对全字段建立索引 ,根据实际文本区分度 决定索引长度。 说明:索引的长度与区分度是一对矛盾体,一般对字符串类型数据,长度为20的索引,区分度会高达98%以上 ,可以使用count(distinct left(列名,索引长度))/count(*)的区分度 来确定截取的长度。
列的基数 指的是某一列中不重复数据的个数 ,比方说某个列包含值2,5,8. 2, 5, 8, 2,5,8,虽然有9条记录,但该列的基数却是3。也就是说,在记录行数一定的情况下,列的基数越大,该列中的值越分散;列的基数越小,该列中的值越集中 。这个列的基数指标非常重要,直接影响我们是否能有效的利用索引。最好为列的基数大的列建立索引 ,为基数太小列的建立索引效果可能不好。 可以使用公式select count(distinct a)/count(*) from t1 计算区分度,越接近1越好,一般超过33%就 算是比较高效的索引了 。 拓展:联合索引把区分度高(散列性高)的列放在前面 。
2.限制索引的数量
在实际工作中,我们也需要注意平衡,索的数目不是越多越好。我们需要限制每张表上的索引数量,建议单张表索引数量不超过6个。 原因:
- ①每个索引都需要占用磁盘空间,索引越多,需要的磁盘空间就越大。
- ②索引会影响INSERT、DELETE. UPDATE等语句的性能,因为表中的数据更改的同时,索引也会进行调整和更新,会造成负担。
- ③优化器在选择如何优化查询时,会根据统一信息,对每一个可以用到的索引来进行评估,以生成出一个最好的执行计划,如果同时有很多个索引都可以用于查询,会增加MySQL优化器生成执行计划时间,降低查询性能。
3.不适合创建索引的情况
WHERE条件(包括GROUP BY,ORDER BY)里用不到的字段不需要创建索引 ,索引的价值是快速定位,如果起不到定位的字段通常是不需要创建索引的。
如果表记录太少,比如少于1000个,那么是不需要创建索引的。表记录太少。是否创建索引对查询效率的影响并不大。甚至说,查询花费的时间可能比遍历索引|的时间还要短,索引可能不会产生优化效果。
在条件表达式中经常用到的不同值较多的列上建立索引,但字段中如果有大量重复数据,也不用创建索引 ,比如在学生表的“性别“字段上只有“男”与“女”两个不同值,因此无须建立索引。如果建立索引,不但不会提高查询效率,反而会严重降低数据更新速度 。 结论:当数据重复度大,比如高于18% 的时候,也不需要对这个字段使用索引。
- 第一层含义:
频繁更新的字段 不一定要创建索引。因为更新数据的时候,也需要更新索引 ,如果索引太多,在更新索引的时候也会造成负担,从而影响效率。 - 第二层含义:避免对经常更新的表创建过多的索引,井且索引中的列尽可能少。此时,虽然提高了查询速度,同时却会降低更新表的速度。
例如身份证、UUID(在索引比较时需要转为ASCII, 井且插入时可能造成页分裂 )、MD5. HASH. 无序长字符串等。
-删除不再使用或很少使用的索引
表中的数据被大量更新,或者数据的使用方式被改变后,原有的一-些索引可能不再需要。数据库管理员应当定期找出这些索引,将它们删除,从而减少索引|对更新操作的影响。
性能分析工具的使用
1.查看系统性能参数
SHOW STATUS 查询一些MySQL数据库服务器的性能参数 、执行频率 。
show [global | session] status like '参数';
一些常用的性能参数如下:
Connections : 连接MySQL服务器的次数。Uptime : MySQL服务器的上线时间。Slow_queries : 慢查询的次数。Innodb_rows_read : Select查询返回的行数Innodb_rows_inserted : 执行INSERT操作插入的行数 。Innodb_rows_updated :执行UPDATE操作更新的行数Innodb_rows_deleted : 执行DELETE操作删除的行数 。Com_select : 查询操作的次数。Com_insert : 插入操作的次数。对于批量插入的INSERT操作,只累加一次。Com_update :更新操作的次数。Com_delete : 删除操作的次数。
2.统计SQL的查询成本:last_query_cost
一条SQL查询语句在执行前需要确定查询执行计划。如果存在多种执行计划的话,MySQL会计算每个执行计划所需要的成本,从中选择成本最小的一个作为最终执行的执行计划。 如果我们想要查看某条SQL语句的查询成本。可以在执行完这条SQL语句之后,通过查看当前会话中的 last_query_cost 变量值来得到当前查询的成本。它通常也是我们评价一个查询的执行效率的一个常用指标。这个查询成本对应的是SQL语句所需要读取的页的数量 .
show status like 'last_query_cost';
SQL查询是一个动态的过程,从页加载的角度来看,我们可以得到以下两点结论:
- 1.
位置决定效率 。如果页就在数据库缓冲池中,那么效率是最高的,否则还需要从内存或者磁盘中进行读取,当然针对单个页的读取来说,如果页存在于内存中,会比在磁盘中读取效率高很多。 - 2.
批量决定效率 。如果我们从磁盘中对单一页进行随机读,那么效率是很低的(差不多10ms),而采用顺序读取的方式,批量对页进行读取 ,平均一页的读取效率就会提升很多,甚至要快于单个页面在内存中的随机读取 。
所以说,遇到I/0并不用担心,方法找对了,效率还是很高的。我们首先要考虑数据存放的位置,如果是经常使用的数据就要尽量放到缓冲池中 ,其次我们可以充分利用磁盘的吞吐能力,一次性批量读取数据 ,这样单个页的读取效率也就得到了提升。
3.慢查询日志:定位慢SQL
MySQL的慢查询日志,用来记录在MySQL中响应时间超过阈值 的SQL语句,具体指运行时间超过long_query_time 值的SQL,则会被记录到慢查询日志中。long_query_time的默认值为10,意思是运行10秒以上(不含10秒)的语句,认为是超出了我们的最大忍耐时间值。 它的主要作用是,帮助我们发现那些执行时间特别长的SQL查询,并且有针对性地进行优化,从而提高系统的整体效率当我们的数据库服务器发生阻塞、运行变慢的时候,检查一下慢查询日志, 找到那些慢查询,对解决问题很有帮助。比如一条sql执行超过5秒钟,我们就算慢SQL,希望能收集超过5秒的sql,结合explain 进行全面析。 默认情况下,MySQL数据库没有开启慢查询日志,需要我们手动来设置这个参数。如果不是调优需要的话,一般不建议启动该参数,因为开启慢查询日志会或多或少带来一定的性能影响 。 慢查询日志支持将日志记录写入文件。
slow_query_log 慢查询日志参数 slow_query_log_file 慢查询日志文件参数
set global slow_query_log = on;
set long_query_time = 阈值;
set global long_query_time = 阈值;
修改my.cnf文件,[mysqld]下增加或修改参数 long_query_time 、slow_query_log 和 slow_query_log_file 后,然后重启MySQL 服务器。
[mysqld]
slow_query_log = ON
slow_query_log_file = 存放日志文件的位置
long_query_time = 阈值
log_output = FILE
show status like 'slow_queries';
控制慢查询日志的还有一个系统变量: min_examined_row_limit 。 这个变量的意思是,查询扫描过的最少记录数 。这个变量和查询执行时间,共同组成了判别一个查询是否是慢查询的条件,如果查询扫描过的记录数大于等于这个变量的值,并且查询执行时间超过long_query_time的值,那么,这个查询就被记录到慢查询日志中;反之,则不被记录到慢查询日志中。
在生产环境中,如果要手工分析日志,查找、分析SQL,显然是个体力活,MySQL提供了日志分析工具 mysqldumpslow 。 注意:该工具不是在mysql环境下使用,而是在Linux环境下使用
mysqldumpslow -s t -t 5 /var/lib/mysql/Lhk001-slow.log
[mysqld]
slow_query_log=off
set global slow_query_log=off;
- 直接手动删除文件即可
rm Lhk001-slow.log
- 重新生成慢查询日志文件
mysqladmin -u root -p flush-logs slow
慢查询日志都是使用mysqladmin flush-logs 命令来删除重建的。使用时一定要注意,一旦执行了这个命令,慢查询日志都只存在新的日志文件中,如果需要旧的查询日志,就必须事先备份。
set profiling = on;
show profiles;
show profile;
show profile for query n;
show profile的常用查询参数:
ALL :显示所有的开销信息。BLOCK I0 :显示块I0开销。CONTEXT SWITCHES :上下文切换开销。CPU :显示CPU开销信息。IPC :显示发送和接收开销信息。MEMORY :显示内存开销信息。PAGE FAULTS :显示页面错误开销信息。SOURCE :显示和Source_function, Source_file, Source_line相关的开销信息。SWAPS :显示交换次数开销信息。
日常开发需注意的结论:
converting HEAP to MyISAM :查询结果太大,内存不够,数据往磁盘上搬了。Creating tmp table :创建临时表。先拷贝数据到临时表,用完后再删除临时表。Copying to tmp table on disk :把内存中时表复制到磁盘上,警惕!locked
如果在show profile 诊断结果中出现了以上4条结果中的任何一条,则sql语句需要优化。 注意: 不过SHOW PROFILE 命令将被弃用,我们可以从information_schema中的profling数据表进行查看。
4. 分析查询语句:explain
定位了查询慢的SQL之后,我们就可以使用EXPLAIN 或DESCRIBE 工具做针对性的分析查询语句。 MySQL为我们提供了EXPLAIN 语句来帮助我们查看某个查询语句的具体执行计划,大家看懂EXPLAIN 语句的各个输出项,可以有针对性的提升我们查询语句的性能。
explain SQL语句;
describe SQL语句;
EXPLAIN语句输出的各个列的作用如下:
列名 | 描述 |
---|
id | 在一个大的查询语句 中每个SELECT关键字 都对应一个唯一的id | select_type | SELECT关键字对应的那个查询的类型 ,用于确定小查询在大查询中扮演的角色 | table | 表名,查询的每一行记录对应着一个单表 | partitions | 匹配的分区信息 | type | 针对单表的访问方法 | possible_keys | 可能用到的索引 | key | 实际上使用的索引 | key_len | 实际使用到的索引长度,对于联合索引,值越大越好 | ref | 当使用索引列等值查询 时,与索引列进行等值匹配的对象信息 | rows | 预估的需要读取的记录条数,越小越好 | filtered | 某个表经过搜索条件过滤后 剩余记录条数的百分比 | Extra | 一些额外的信息一些额外的信息 |
id如果相同,可以认为是一组,从上往下顺序执行 在所有组中, id值越大,优先级越高,越先执行 - “关注点:
id号每个号码,表示一趟独立的查询, 一个sql的查询趟数越少越好
结果值从最好到最坏依次是: system > const > eq_ref > ref > fulltext > ref_or_null > index_merge > unique_subquery > index_subquery > range > index > ALL 其中比较重要的几个提取出来(标红的几个)。 SQL 性能优化的目标:至少要达到range级别,要求是ref 级别,最好是const级别。(阿里巴巴开发手册要求)
- EXPLAIN不考虑各种Cache
- EXPLAIN不能显示MySQL在执行查询时所作的优化工作
- EXPLAIN不会告诉你关于触发器、存储过程的信息或用户自定义函数对查询的影响情况
- 部分统计信息是估算的,并非精确值
EXPLAIN可以输出四种格式:传统格式(EXPLAIN ...) ,JSON格式(EXPLAIN FORMAT=JSON ...) ,TREE格式(EXPLAIN FORMAT=TREE ...) 以及可视化输出(Workbench工具) 。
在我们使用EXPLAIN语句查看了某个查询的执行计划后,紧接着还可以使用SHOW WARNINGS 语句查看与这个查询的执行计划有关的一些扩展信息
5.分析优化器执行计划:trace
OPTIMIZER_TRACE 是MySQL 5.6引入的一项跟踪功能 ,它可以跟踪优化器做出的各种决策(比如访问表的方法、各种开销计算、各种转换等),并将跟踪结果记录到INFORMATION_SCHEMA.0PTIMIZER_TRACE 表中。 此功能默认关闭。开启trace, 并设置格式为JSON,同时设置trace最大能够使用的内存大小,避免解析过程中因为默认内存过小而不能够完整展示。
set optimizer_trace = 'enabled=on',end_markers_in_json=on;
set optimizer_trace_max_mem_size=100000;
查看表information_schema.optimizer_trace
select * from information_schema.optimizer_trace\G
6.MySQL监控分析视图——sys schema
关于MySQL的性能监控和问题诊断,我们一般都从performance_schema 中去获取想要的数据,在MySQL5.7.7版本中新增sys schema ,它将performance_schema 和information_schema 中的数据以更容易理解的方式总结归纳为"视 图",其目的就是为了降低查询performance_schema的复杂度,让DBA能够快速的定位问题 。
- 主机相关:以host summary开头,主要汇总了I0延迟的信息。
- Innodb相关:以innodb开头, 汇总了innodb buffer信息和事务等待innodb锁的信息。
- I/o相关:以io开头, 汇总了等待I/0、 I/0使用量情况。
- 内存使用情况:以memory开头, 从主机线程、事件等角度展示内存的使用情况
- 连接与会话信息: proesslist印session相关视图, 总结了会话相关信息。
- 表相关:以 schema_table 开头的视图,展示了表的统计信息。
- 索引信息:统计了索引的使用情况,包含冗余索引和未使用的索引情况。
- 语句相关:以statement开头,包含执行全表扫描、使用临时表、排序等的语句信息。
- 用户相关:以user开头的规图, 统计了用户使用的文件I/0。执行语句统计信息。
- 等待事件相关信息:以wait开头, 展示等待事件的延迟情况。
select * from sys.schema_redundant_indexes;
select * from sys.schema_unused_indexes;
select index_name,rows_selected,row_inserted,rows_updated,rows_deleted from sys.schema_index_statistics where table_schema='dbname' ;
select table_schema,table_name,sum(io_read_requests+io_requests) as io from sys.schema_table_statistics group by table_schema,table_name order by io desc;
select object_schema,object_name,allocated,data from sys.innodb_buffer_stats_by_table order by allocated limit 10;
select * from ysy.statements_with_full_table_scans where db='dbname';
select db,exec_count,query from sys.statement_analysis order by exec_count desc;
select db,exec_count,first_seen,last_seen,query from sys.statement_with_sorting limit 1;
select db,exec_count,tmp_tables,tmp_disk_tables,query from sys.statement_analysis where tmp_tables>0 ro tmp_disk_tables >0 order by (tmp_tables+tmp_disk_tables ) desc;
select file,avg_read,avg_write,avg_read+avg_write as avg_io from sys.io_global_by_bytes order by avg_read limit 10;
select * from sys.innodb_lock_waits;
通过sys库去查询时,MySQL会 消耗大最资源 去收集相关信息,严重的可能会导致业务请求被阻塞,从而引起故障。 建议生产上不要频繁 的去查询sys或者performance_schema、information_schema来完成监控、巡检等工作。
|