7

《面试官:谈谈你对索引的认知》系列之磁盘I/O

 2 years ago
source link: https://my.oschina.net/jiagoujingjin/blog/5066739
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.

ef70b64d-b32c-49fd-a13c-35e0066d6831.png

写在前面

前面两讲我们介绍了B-/+树的特性对比,数据库系统普遍采用B-/+树作为索引结构。

《面试官:谈谈你对索引的认知》系列之B-树

《面试官:谈谈你对索引的认知》系列之B+树

这一节将结合计算机组成原理相关知识讨论B-/+树作为索引的理论基础。

一般来说,索引本身也很大,不可能全部存储在内存中,因此索引往往以索引文件的形式存储的磁盘上。 这样的话,索引查找过程中就要产生磁盘I/O消耗,相对于内存存取,I/O存取的消耗要高几个数量级,所索引的结构组织要尽量减少查找过程中磁盘I/O的存取次数。

为什么使用索引查询性能会提高

正常查询的时间复杂度是O(N),可能需要全表查询遍历才可以查询到。

存储引擎InnoDB,data域存储完整的数据逻辑。聚集型,数据文件本身就是索引文件。

99ae199e-926c-4aff-b18d-920e13763785.png

非叶子节点上以年龄分区,叶子节点上保存实际数据,叶子节点互相有指引,类似数组+链表形式,这种查询时间复杂度是O(logN),所以使用索引可以大大降低磁盘I/O。

磁盘存取原理

索引一般以文件形式存储在磁盘上,索引检索需要磁盘I/O操作。与主存不同,磁盘I/O存在机械运动耗费,因此磁盘I/O的时间消耗是巨大的。

如下所示为磁盘的整体结构示意图:

d3d6b80b-0bd7-4101-8197-75176152d432.png

一个磁盘由大小相同且同轴的圆形盘片组成,磁盘可以转动(各个磁盘必须同步转动)。在磁盘的一侧有磁头支架,磁头支架固定了一组磁头,每个磁头负责存取一个磁盘的内容。磁头不能转动,但是可以沿磁盘半径方向运动(实际是斜切向运动),每个磁头同一时刻也必须是同轴的,即从正上方向下看,所有磁头任何时候都是重叠的(不过目前已经有多磁头独立技术,可不受此限制)。

如下所示为磁盘结构的示意图:

e90218a1-1b91-47a3-bbc3-717e2d966ad1.png

盘片被划分成一系列同心环,圆心是盘片中心,每个同心环叫做一个磁道,所有半径相同的磁道组成一个柱面。磁道被沿半径线划分成一个个小的段,每个段叫做一个扇区,每个扇区是磁盘的最小存储单元。为了简单起见,我们下面假设磁盘只有一个盘片和一个磁头。

当需要从磁盘读取数据时,系统会将数据逻辑地址传给磁盘,磁盘的控制电路按照寻址逻辑将逻辑地址翻译成物理地址,即确定要读的数据在哪个磁道,哪个扇区。为了读取这个扇区的数据,需要将磁头放到这个扇区上方,为了实现这一点,磁头需要移动对准相应磁道,这个过程叫做寻道,所耗费时间叫做寻道时间,然后磁盘旋转将目标扇区旋转到磁头下,这个过程耗费的时间叫做旋转时间。

  • 磁盘I/O时间:数据传输时间+读取磁盘目录时间+寻道时间+旋转时间

存储数据最小单元

在计算机中磁盘存储数据最小单元是扇区,一个扇区的大小是512字节,而文件系统(例如XFS/EXT4)他的最小单元是块,一个块的大小是4k。

而对于我们的InnoDB存储引擎也有自己的最小储存单元——页(Page),一个页的大小是16K。

39ff49b1-4afd-475e-bfaf-35c192d6df0a.png

在MySQL中我们的InnoDB页的大小默认是16k,当然也可以通过参数设置:

mysql>show variables like 'innodb_page_size';

数据表中的数据都是存储在页中的,所以一个页中能存储多少行数据呢?假设一行数据的大小是1k,那么一个页可以存放16行这样的数据。

局部性原理与磁盘预读

由于存储介质的特性,磁盘本身存取就比主存慢很多,再加上机械运动耗费,磁盘的存取速度往往是主存的几百分之一,因此为了提高效率,要尽量减少磁盘I/O。为了达到这个目的,磁盘往往不是严格按需读取,而是每次都会预读,即使只需要一个字节,磁盘也会从这个位置开始,顺序向后读取一定长度的数据放入内存。

这样做的理论依据是计算机科学中著名的局部性原理:

当一个数据被用到时,其附近的数据也通常会马上被使用。

程序运行期间所需要的数据通常比较集中。

由于磁盘顺序读取的效率很高(不需要寻道时间,只需很少的旋转时间),因此对于具有局部性的程序来说,预读可以提高I/O效率

预读的长度一般为页(page)的整倍数。页是计算机管理存储器的逻辑块,硬件及操作系统往往将主存和磁盘存储区分割为连续的大小相等的块,每个存储块称为一页(在许多操作系统中,页的大小通常为4k)主存和磁盘以页为单位交换数据。

当程序要读取的数据不在主存中时,会触发一个缺页异常,此时系统会向磁盘发出读盘信号,磁盘会找到数据的起始位置并向后连续读取一页或几页载入内存中,然后异常返回,程序继续运行。

所以IO一次就是读一页的大小。

总结

MySQL 普遍采用 B+Tree 实现,索引本身很大,不可能全部存储内存,因此需要以索引文件的形式存储磁盘。

通常B-/+Tree的高(h)固定情况下,而度(d)会很大,度越大索引性能越好。

相对于内存读取,I/O存取的消耗要高几个数量级(内存1s,磁盘100多s),由于MySQL数据存储保存在磁盘中,所以在查询时磁盘I/O是其主要查询性能瓶颈,而使用索引就可以减少磁盘I/O。

7774bb57-6b52-4bea-b6a3-1bd91c855e99.png

·················· END ··················

关注公众号,免费领取程序员成长大礼包

十年研发路,大厂架构师,CSDN博客专家

专注架构技术学习及分享,职业与认知升级

坚持分享接地气儿的干货,期待与你一起成长

消息中间件

架构应用汇总

认知升级迭代

MySQL实用探秘


bc929538-fa0a-4d02-b492-97322ffd1daf.png

「架构精进之路」专注架构研究,技术分享

点“赞”和“在看”哦 c6b5c78f-3a35-4a18-b071-50948579c34d.gif

本文分享自微信公众号 - 架构精进之路(jiagou_jingjin)。
如有侵权,请联系 [email protected] 删除。
本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一起分享。


About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK