当前位置: 首页 > news >正文

慢sql优化和Explain解析

要想程序跑的快,sql优化不可懈怠!今日来总结一下常用的慢sql的分析和优化的方法。

1、慢sql的执行分析:

大家都知道分析一个sql语句执行效率的方法是用explain关键词:
举例:sql:select * from test where bussiness_date =‘2024-10-30’;
分析: explain select * from test where bussiness_date =‘2024-10-30’;
分析执行结果:
在这里插入图片描述
给business_date 加上一个索引,索引名称:test_bussiness_date_IDX
再执行分析:
在这里插入图片描述
对照着这两个分析结果下边来说下每一列都是什么意思

id:

在一个大的查询语句中,每个select关键字都对应一个id,代表多个表之间的查询顺序,或者包含子查询语句中的顺序,id顺序分为3中情况:
(1)id相同,执行顺序从上到下(因为小编举例都是单表,所以分析结果只有一行数据,如果sql中包括子查询或者多表联查,分析结果会有多行,感兴趣读者可以试试)
(2)id不同,如果是子查询,id值会递增,执行顺序是从大到小的。id越大优先级越高,越先被执行。
(3)id相同和不同的同时存在,此时id相同的为一组,id越大越优先执行,组内id相同,从上到下依次执行(比较复杂的sql会出现这种情况)。

select_type

select关键字对应的查询类型,示例中的 SIMPLE 表示简单子查询。不光这一种类型:具体类型解释如下:
(1)simple 简单子查询
(2)primary 最外层子查询
(3)subquery 第一层子查询,再select 或者where中包含了子查询。
(4)derived 派生表 再from中包含的子查询,会被标记为衍生查询,会把查询结果放到一个临时表中。
(5)union 出现在union后面的查询
(6)union result union联合查询获取结果的select,如果有两个select查询语句,他们之间用union连接起来查询,那么第二个select会被标记为union,union的结果被标记为union result。

table

表名,表示这一行的数据是那个表的,如果有别名,会显示别名。

partitions

访问的分区表信息。

type(优化重要信息字段)

针对单表的访问方法,一般来说保证查询至少达到range级别,最好达到ref。type其他类型详解:
性能从好–>差:依次是 system->const->eq_ref->ref->range->index->all.
如果出现index或者all就需要优化了,以下对每个值做详细的解释:
(1)system:表中只有一行记录,system是const的特例,几乎不会出现这种情况,可以忽略不计。
(2)const: 将主键索引或者唯一索引放到where条件中查询,mqsql可以将查询条件转变成一个常量,只匹配一行数据,索引依次就找到数据了。
(3)eq_ref: 同ref差不多,但返回结果只有一条记录。
(4)ref:不是主键索引,也不是唯一索引,就是普通的索引,可能会返回多个符合条件的行。
(5)range:只用一个索引来选择行,key列显示所用的索引名称。
(6)index:也是读取全表,但是是从索引中读取。
(7)all:全表查询,从磁盘中读取。效率最差。

possible_keys

可能用到的索引,查询中涉及字段上若存在索引,则会被列出来,表示可能用到的索引,但是并不是实际上一定会用到的索引。

key

实际用到的索引。

key_len

表示索引中使用的字节数。通过该属性可以知道在查询中使用的索引长度,这个长度是最大可能长度,并非实际使用长度,在不损失准确性的情况下,长度越短查询效率越高。

ref

关联id等信息。当使用索引列等值查询时,与索引列进行等值匹配的对象信息。

rows:

预估的需要读取的记录条数。根据表信息统计及索引的使用情况,大致估算找到所需记录需要读取的行数,row越小越好。

filtered

查到到所需记录占总扫描记录数的比例。

Extra(优化重要信息字段)

Extra:一些额外的信息。
当此字段中出现以下的两个值时,意味着mqSql根本不能使用索引,效率会收到重大影响,要尽可能的对此进行优化。
Using fileSort(使用文件排序) 和 Using temporary(使用临时表)
下面对每个值进行详细的解释:
(1)Using index:使用了覆盖索引,避免访问了表的数据行,效率不错。如果同时出现了Using where,表明索引被用来执行索引键值的查找;如果没有同时出现Using where表明索引用来读取数据而非执行查找动作。
索引覆盖有两种理解方式:(1)就是select的数据列,只用从索引中就能取得,不必读取数据行,Mqsql可以利用索引返回select列表中的字段,而不必根据索引再次读取数据文件,换句话说也就是查询列要被所建的索引列覆盖。(2)索引是高效找到行的一个方法,但是一般数据库也能使用索引找到一个列的数据,因此它不必读取整个行,毕竟索引叶子节点存储了他们索引的数据;当然通过读取索引就可以得到想要的数据,那就不需要读取行了,一个索引包含了满足查询结果的数据就叫做覆盖索引。
(2)Using index condition:用了条件索引(索引下推)
(3)Using where:从索引查出来数据后继续使用where条件过滤。
(4)Using join buffer(Block Nested Loop):join的时候利用了join buffer(优化方法:去掉外连接,增大join buffer的大小)
(5)Using fileSort(重点优化):用了文件排序,俗称“文件排序”,排序的时候没有用到索引,在数据量大的时候几乎是“九死一生”,在order by 或者group by过程中,order by的字段不是索引字段,或者select查询字段存在不是索引字段,或者select 查询字段都是索引字段,但是order by的字段顺序和select的索引字段的顺序不一致,都会导致fileSort。
(6)Using temporary(重点优化):用了临时表保存中间结果,常见于order by和group by中(优化方法:增加条件以减少结果集、怎讲索引,总之就是:要么减少待排序的数量,要么提前排好序)
(7)Start temporary,End temporary:子查询的时候,可以优化成半连接,但是使用的是通过临时表来去重。
(8)FirstMatch(tb1_name):子查询的时候,可以优化成半连接,但是使用的是直接进行数据比较来去重。
(9)impossible where:表示where子句的值总是false,不能用来获取任何元素。
(10)select tables optimized away 在没有group by 子句的情况下,基于索引优化MIN/MAX操作或者对于MyISAM存储引擎优化Count(*)操作,不必等到执行阶段再进行计算,查询执行计划生成的阶段即完成优化。
(11)distinct:优化distinct,在找到第一匹配的元组后即停止找同样值的工作。

2、常见的慢sql优化手段:

(1)select * 语句减少使用,会增加很多不必要的消耗(cpu,io,内存,网络带宽等)可以在select语句后指明具体的字段名称,增加了使用覆盖索引的可能性;
(2)排序时注意是否能用到索引,确保order by和group by涉及的列上有索引,尽量减少排序和分组操作的数据量。
(3)使用like模糊查询的时候,尽量使用最左匹配模式,即like ‘abc%’,这样可以使用索引。
(4)避免对where语句中字段使用函数或运算,会导致索引失效(高版本的mysql数据库,函数也可以使用索引)
(5) 在多条件查询的时候,最好创建联合索引,因为多个单列索引在多条件查询时,一般只会生效一个索引,mysql会选择其中一个限制最为严格的作为索引。
(6)对于联合索引,要遵守最左前缀法则(使用联合索引的一部分字段时需要考虑最左原则,否则会失效,如果使用全部字段就不需要考虑了,不会失效)
(7)使用合理的分页方式,以提高分页的效率。
(8)使用limit限制返回的行数,如只需要一条数据使用limit 1;
(9)对大表进行分区,可根据时间、范围、哈希等方式分区,查询时只扫描相关分区,减少不必要的数据扫描。
(10)避免使用临时表
(11)优化联合查询,在联合查询中尽量能使用UNION ALL。UNION会去除重复的记录,需要额外的排序和去重操作,性能较差。UNION ALL直接合并结果集,不进行去重,性能更好。如果业务逻辑允许,邮箱使用UNION。
(12)拆分大字段,将包含大字段(如:BLOB,TEXT)的表进行拆分,将大字段放在单独的表中,已减少主表的存储开销和查询压力。
(13)读写分离,将读操作和写操作分离,通过主从复制实现读写分离,减少主库压力,提高读写性能。
(14)根据业务需求,从业务逻辑入手,优化查询需求和频率,避免不必要的频繁查询。

相关文章:

慢sql优化和Explain解析

要想程序跑的快,sql优化不可懈怠!今日来总结一下常用的慢sql的分析和优化的方法。 1、慢sql的执行分析: 大家都知道分析一个sql语句执行效率的方法是用explain关键词: 举例:sql:select * from test where bussiness_…...

ALIGN_ Tuning Multi-mode Token-level Prompt Alignment across Modalities

文章汇总 当前的问题 目前的工作集中于单模提示发现,即一种模态只有一个提示,这可能不足以代表一个类[17]。这个问题在多模态提示学习中更为严重,因为视觉和文本概念及其对齐都需要推断。此外,仅用全局特征来表示图像和标记是不…...

【Java SE】代码注释

代码注释 注释(comment)是用于说明解释程序的文字,注释的作用在于提高代码的阅读性(可读性)。Java中的注释类型包括3种,分别是: 单行注释多行注释文档注释 ❤️ 单行注释 基本格式&#xff…...

如何在算家云搭建Llama3-Factory(智能对话)

一、Llama3-Factory 简介 当地时间 4 月 18 日,Meta 在官网上宣布公布了旗下最新大模型 Llama 3。目前,Llama 3 已经开放了 80 亿(8B)和 700 亿(70B)两个小参数版本,上下文窗口为 8k。Llama3 是…...

操作数据表

创建表 创建表语法: CREATE TABLE table_name ( field1 datatype [COMMENT 注释内容], field2 datatype [COMMENT 注释内容], field3 datatype ); 注意: 1. 蓝色字体为关键字 2. CREATE TABLE 是创建数据表的固定关键字,表…...

C# 实现进程间通信的几种方式(完善)

目录 引言 一、基本概念 二、常见的IPC方法 1. 管道(Pipes) 2. 共享内存(Shared Memory) 3. 消息队列(Message Queues) 4. 套接字(Sockets) 5. 信号量(Semaphore…...

MySQL Workbench Data Import Wizard:list index out of range

MySQL Workbench的Data Import Wizard功能是用python实现的,MySQL Workbench自带了一个python,数据导入的时候出现错误提示 22:55:51 [ERR][ pymforms]: Unhandled exception in Python code: Traceback (most recent call last): File "D…...

微信支付宝小程序SEO优化的四大策略

在竞争激烈的小程序市场中,高搜索排名意味着更多的曝光机会和潜在用户。SEO即搜索引擎优化,对于小程序而言,主要指的是在微信小程序商店中提高搜索排名,从而增加曝光度和用户访问量。有助于小程序脱颖而出,提升品牌知名…...

AutoDIR: Automatic All-in-One Image Restoration with Latent Diffusion论文阅读笔记

AutoDIR: Automatic All-in-One Image Restoration with Latent Diffusion 论文阅读笔记 这是ECCV2024的论文,作者单位是是港中文和上海AI Lab 文章提出了一个叫AutoDIR的方法,包括两个关键阶段,一个是BIQA,基于vision-language…...

SQLite 数据库设计最佳实践

SQLite特点 SQLite是一款功能强大的 轻量级嵌入式数据库 ,具有以下显著特点: 体积小 :最低配置仅需几百KB内存,适用于资源受限环境。 高性能 :访问速度快,运行效率高于许多开源数据库。 高度可移植 :兼容多种硬件和软件平台。 零配置 :无需复杂设置,开箱即用。 自给自…...

【论文精读】ID-like Prompt Learning for Few-Shot Out-of-Distribution Detection

🌈 个人主页:十二月的猫-CSDN博客 🔥 系列专栏: 🏀论文精读_十二月的猫的博客-CSDN博客 💪🏻 十二月的寒冬阻挡不了春天的脚步,十二点的黑夜遮蔽不住黎明的曙光 注:下文…...

Android 10.0 根据包名禁用某个app的home事件

1.前言 在10.0的系统rom定制化开发中,在某些app中,需要禁用home事件,在普通的app中又无法 禁用home事件,所以就需要从系统中来根据包名禁用home事件了,接下来分析下 系统中处理home事件的相关流程 2.根据包名禁用某个app的home事件的核心类 frameworks/base/services/c…...

Rust 文档生成与发布

目录 第三节 文档生成与发布 1. 使用 RustDoc 生成项目文档 1.1 RustDoc 的基本使用 1.2 文档注释的格式与实践 1.3 生成文档的其他选项 1.4 在 CI/CD 中生成文档 2. 发布到 crates.io 的步骤与注意事项 2.1 创建 crates.io 账户 2.2 配置 Cargo.toml 2.3 生成发布版…...

【C++动态规划】有效括号的嵌套深度

本文涉及知识点 C动态规划 LeetCode1111. 有效括号的嵌套深度 有效括号字符串 定义:对于每个左括号,都能找到与之对应的右括号,反之亦然。详情参见题末「有效括号字符串」部分。 嵌套深度 depth 定义:即有效括号字符串嵌套的层…...

2024年优秀的天气预测API

准确、可操作的天气预报对于许多组织的成功至关重要。 事实上,在整个行业中,天气条件会直接影响日常运营,包括航运、按需、能源和供应链(仅举几例)。 以公用事业为例。根据麦肯锡的数据,在 1.4 年的时间里…...

Android和iOS有什么区别?

Android 和 iOS 有以下区别: 开发者与所属公司: Android:由谷歌公司开发以及开放手机联盟维护。它是基于 Linux 内核和其他开源软件的修改版本,代码开源程度较高,许多厂商都可以基于 Android 源代码进行深度定制和开发…...

NVR小程序接入平台/设备EasyNVR多个NVR同时管理多平台级联与上下级对接的高效应用

政务数据共享平台的建设正致力于消除“信息孤岛”现象,打破“数据烟囱”,实现国家、省、市及区县数据的全面对接与共享。省市平台的“级联对接”工作由多级平台共同构成,旨在满足跨部门、跨层级及跨省数据共享的需求,推动数据流通…...

Spring Cloud Sleuth(Micrometer Tracing +Zipkin)

分布式链路追踪 分布式链路追踪技术要解决的问题,分布式链路追踪(Distributed Tracing),就是将一次分布式请求还原成调用链路,进行日志记录,性能监控并将一次分布式请求的调用情况集中展示。比如各个服务节…...

人工智能:机遇与挑战

人工智能(AI)作为当今世界科技发展的前沿领域,正在以前所未有的速度和规模影响着我们的生活和工作方式。AI技术的应用前景广阔,从医疗健康到金融服务,从教育到交通,再到娱乐和家庭生活,AI正在逐…...

mac电脑设置crontab定时任务,以及遇到的问题解决办法

crontab常用命令 crontab -u user:用来设定某个用户的crontab服务; crontab file:file是命令文件的名字,表示将file做为crontab的任务列表文件并载入crontab。如果在命令行中没有指定这个文件,crontab命令将接受标准输入&#xf…...

AI金融分析:市场微观结构MCP服务器实战指南

1. 项目概述:一个为AI代理提供市场微观结构分析的MCP服务器 如果你是一名量化研究员、对冲基金分析师,或者正在构建一个能进行深度金融推理的AI助手,那么你肯定遇到过这样的困境:想要分析市场的“反身性”效应、估算“知情交易概…...

六层板电气检验别只测通断!4项核心电性能漏检必翻车

六层板量产前电气检验,很多工程师只做通断测试,觉得 “不短路、不断路就合格”,结果批量出货后问题频发:高速信号误码、电源发热烧板、绝缘击穿漏电、阻抗漂移失效。某工控客户惨痛经历:一款工业控制六层板&#xff0c…...

认知神经科学研究报告【20260030】

ForeSight 5.87.2 再增化学物理组件 化学物理引擎:一项关于涌现认知的实验报告 内部版本 2026年5月摘要 我们构建了一个不依赖传统编程逻辑、不进行数学优化、不需要训练数据的推理引擎。本报告记录该引擎在七项认知测试中的详细表现,观察到四个明确的智…...

基于Laravel与私有AI的Noton文档平台:自托管部署与实战指南

1. 项目概述:一个为团队知识管理而生的自托管文档平台 如果你和我一样,经历过在十几个不同的文档工具、聊天记录和邮件里翻找某个技术方案,或者为了一份过期的API文档和同事争论半天,那你一定能理解一个 统一、清晰、可私有化部…...

用Python 和 java 写 10 道题

1.已知1、1、2、3、5、8、13......就是从第三项开始,每一项等于前两项之和。求第100项。python写a,b 1,1 #第一项和第二项 for _ in range(3,101): #从第3项计算到第100项,需循环98次(前两项已有)a,b b,ab #a 变成前一项 b 变成新的当前…...

Termi AI:基于Electron的智能桌面开发伴侣,集成Vite预览与AI编程助手

1. 项目概述:一个集成了AI助手的桌面开发伴侣如果你和我一样,每天大部分时间都泡在终端和编辑器里,那你肯定也幻想过:能不能有一个工具,能把我的项目实时预览和AI编程助手无缝地“焊”在一起?不用在浏览器、…...

python系列【仅供参考】:js2py模块--python中执行js

js2py模块--python中执行js js2py 1. 在python中执行js代码 2. js代码翻译 3. 在js中调用Python函数 4. 在js中调用Python模块 js2py Python中执行JS代码,通常用两个库:js2py,pyexecjs。当网页使用 js 加密时我们可以使用这些库来分析 js 的实现逻辑,获取加密信息。 js2p…...

AI代理上下文精准检索:Konteks-Skill项目实战与RAG优化

1. 项目概述与核心价值最近在折腾一个挺有意思的开源项目,叫jamesalmeida/konteks-skill。乍一看这个名字,可能有点摸不着头脑,但如果你对AI助手、智能代理或者RAG(检索增强生成)技术感兴趣,那这个项目绝对…...

别再买群晖了!用闲置旧电脑+Docker,30分钟自建NextCloud私有云盘(保姆级教程)

旧电脑秒变私有云:零成本搭建NextCloud全栈指南 看着角落里积灰的旧笔记本,我突然意识到它可能比群晖NAS更强大。去年帮朋友用一台2015年的MacBook Air搭建私有云,至今稳定运行着团队15人的文件协作系统——而这台"报废设备"的市场…...

警惕!POS系统4大安全风险别踩雷

随着数字化转型深入,零售企业的网络安全已成为经营的“生命线”——越来越多客户信息、交易数据在云端存储流转,而作为门店核心的收银POS系统,恰恰是黑客攻击的薄弱环节。如何守住门店数据安全底线?保持安全认知、主动前置防护&am…...