Myslq千万级数据量查询

news/2024/9/19 16:27:39/文章来源:https://www.cnblogs.com/aeolian/p/18375477

两千四百万数据量SQL查询

image

没有索引时

如果字段无索引,耗时十分钟
image

无索引查询过程

MySQL 需要对 2400 万条数据一一进行比较,假设每条记录的处理时间为 0.025 ms,那么总查询时间大约为 10 分钟(即 2400 万 × 0.025 ms)。
•全表扫描: 当查询 kh = '03356129487' 时,如果表上没有对 jd_kh 字段创建索引,MySQL 会执行全表扫描。这意味着 MySQL 需要从头到尾逐行读取表中的所有 2400 万条记录,逐条比较kh字段的值,找到符合条件的记录。
•数据量大: 由于表中有 2400 万条记录,全表扫描在每一条记录上都执行一次比较操作,耗时非常长,通常会导致查询的时间成倍增长。

有索引时

有索引时,耗时0.22秒
image
有索引查询过程
使用 B-Tree 索引时,查找过程可能只需要经过 20 次左右的比较操作就能定位到目标数据,处理时间仅为数毫秒。

有索引查询过程

•使用索引查找: 当在kh字段上创建了索引后,MySQL可以利用这个索引来快速定位到符合条件的记录。索引类似于一本书的目录,能够快速指向数据所在的位置,而不必逐条扫描整个表。
•索引的工作原理: 索引通常使用数据结构如 B-Tree 或 Hash 实现,这些结构使得查找操作的时间复杂度为 O(log N) 或 O(1),远远快于全表扫描的 O(N)。
•减少 IO 操作: 使用索引意味着 MySQL 不需要读取整个表,只需访问特定的索引节点,然后直接定位到目标记录,大大减少了磁盘 IO 操作的次数,从而大幅提升查询速度。

索引的影响

作用

•提高查询效率: 索引通过将查找过程缩小到更少的数据范围,大幅减少了需要扫描的数据量。
•降低计算复杂度: 索引的使用将查询复杂度从线性时间 O(N) 降低到对数时间 O(log N) 或更低,这就是查询速度差距如此之大的根本原因。

注意事项

•索引的选择: 并不是所有字段都适合创建索引,索引会占用额外的存储空间,并在数据写入(INSERT/UPDATE/DELETE)时带来一定的性能开销。因此,应该在查询频繁、选择性高的字段上创建索引。
•索引维护: 定期维护索引(如重建索引、分析表等)有助于保持索引的高效性。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/785989.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

001.MinIO简介

MinIO 简介 MinIO 是天然的云原生存储,可以作为轻量级容器运行,由相关编排服务(如 Kubernetes )管理。 整个服务器是一个不到100MB的静态二进制文件,并且在使用CPU和内存资源方面即使在高负载场景也非常高效,因此可以在共享硬件上共同托管大量租户。 MinIO 可以在任何地方和…

转载:国产麒麟v10、UOS系统在线比较两个Word文件的内容差异

调用PageOffice的WordCompare方法,同时在线打开两个Word文档,可以切换显示其中的一个文档,或者显示两个文档的对比结果,即可实现在线的文档内容比较功能。此功能可以应用在以下方面: 文档管理中,比较两个版本Word文档的差别。 在处理文档管理的Web项目中,比较两个版本的…

并发编程[5]_wait和notify

1. wait 和 notify wait() 方法是Object类中的方法,他的作用是让当前线程进入等待状态,而使用notify() 方法可以唤醒。wait(long): void ,参数是毫秒,表示等待毫秒数,直到时间结束或被唤醒; wait(long, int): void ,第一个参数是毫秒,第二个参数是纳秒,如果纳秒在0-99…

【2024-08-23】邬贺铨院士:大模型赋能企业数字化转型

一、AI的演进之路:从生成式AI到通用A1二、大模型的构建与应用:自建与协作开发的行业大模型2.1 自建基础大模型2.2 合作开发行业大模型三、对MaaS及其工具链的探索四、大模型推动云服务创新4.1 大模型时代对算力网络的要求4.2 大模型推动IaaS创新发展4.3 大模型催生AI PaaS创新…

.NET 8 + Vue 3 极简 RABC 权限管理系统

前言 在日常工作中,几乎每家公司都需要一个后台管理系统来处理各种任务。为了帮助大家快速搭建这样一个系统,给大家介绍一个基于最新技术 .NET 8 和前端框架 Vue 3 实现的极简 RABC(基于角色的访问控制)权限管理系统。 该系统后端采用经过精心精简的 ABP框架,前端则使用了…

ToDesk支持多系统互控,使用教程来了!

能多系统跨设备进行远控的软件被我找到了! 就是ToDesk远程控制👍官网就能免费下载使用 遇到公司电脑window系统,但家里笔记本手机是苹果再也不会束手无策了! 电脑手机平板都能互相远程控制,一个账号可登录多个设备 传输文件速度高达12m/s,画质高清还能匹配网速流畅度进行…

初识 Flutter

一、Flutter 简介 Flutter 是 Google 推出并开源的移动应用开发框架,主打跨平台、高保真、高性能。开发者可以通过 Dart 语言开发 App,一套代码同时运行在 iOS 和 Android平台。 Flutter 提供了丰富的组件、接口,开发者可以很快地为 Flutter 添加 Native(即原生开发,指基于…

Windows11下安装Docker

一、准备工作 先下载以下资源,暂时不要安装: Docker安装包 Wsl2安装包 二、开始安装 1.打开主板BIOS的虚拟化选项,可以在任务管理器中确实是否已经打开2.勾上虚拟机平台所有选项(建议完成这一步骤重启)3.用管理员身份打开PowerShell,执行下面命令启动wsl dism.exe /onlin…

振弦式应变计 可同步测量温度,监测混凝土结构的应力与应变

振弦式应变计 可同步测量温度,监测混凝土结构的应力与应变振弦式应变计广泛适用于长期埋设在水工建筑物或其他混凝土结构物内部,如梁、柱、桩基、挡土墙、衬砌、墩以及基岩等,用于测量埋设点的线性变形(应变)和应力,同时也可兼测埋设点的温度。GEO SFxxxx系列振弦式应变计…

iPhone 16 即将推出,,这将是苹果最大的升级, 这里有 7 个你不敢相信 的功能

iPhone 16 即将推出,,这将是苹果最大的升级, iphone16有哪些新功能呢?iPhone16值得买么?这里有 7 个你不敢相信 的功能,让我们先睹为快。iphone16有哪些新功能 1. 您现在可以链接两部 iPhone 以在 iOS 18 中发送现金 2.新的AI智能计算器 3.用眼睛控制你的iPhone 4. 阻止使…

苹果电脑如何远程控制?ToDesk三步操作就成功!

随着电子设备深入我们的日常生活,远程控制也成为了人们电脑手机中的常备软件,无论是为了工作、学习还是生活便利,远程控制软件能让我们跨越空间实现不同设备之间的远控连接。目前市面上有众多国内外远控软件,但小社长最常用的还属ToDesk远程控制。它的操作界面简单还易上手…

一个开源完全免费的无损视频或音频的剪切/裁剪/分割/截取和视频合并工具

大家好,今天给大家分享一款致力于成为顶尖跨平台FFmpeg图形用户界面应用的软件工具LosslessCut。LosslessCut是一款致力于成为顶尖跨平台FFmpeg图形用户界面应用的软件工具,专为实现对视频、音频、字幕以及其他相关媒体资产的超高速无损编辑而精心打造。 项目介绍 LosslessCu…