数据库IO性能知识整理

        今年年初为了做一体机的性能测试以及CRM3.0的存储性能测试,走马观花的对存储相关的知识做了一些了解,并且结合Swingbench和fio,对数据库和存储性能做了一些测试工作。       

创新互联是一家专注于做网站、网站建设与策划设计,绥滨网站建设哪家好?创新互联做网站,专注于网站建设10多年,网设计领域的专业建站公司;建站业务涵盖:绥滨等地区。绥滨做网站价格咨询:18982081108

    

        整个IO栈是一个比较复杂的流程,包含软件和硬性相关的内容,

数据库IO性能知识整理

图片原始地址:http://www.ilinuxkernel.com/files/Linux.IO.stack_v1.0.pdf

          受限自身的知识体系,只对基本的技术环境做了大概的了解,

数据库IO性能知识整理

        很可惜,找不到这张图的原始出处,从google查询到的,可以帮助我们了解从数据库发起IO请求操作,到最终完成数据操作流经了那些设备。

        数据库相关知识内容内容整理成了《X86平台RAC安装最佳实践》,在ORACLE用户组的活动中做过分享。

        为了便于理解设备延迟,以Intel Xeon E5 CPU为基准,整理了一份不同设备的请求延迟数据。

系统设备

真实延迟

缩放延迟

一个 CPU指令

0.4 ns

1 s

CPU Level 1缓存

0.9 ns

2 s

CPU Level 2缓存

2.8 ns

7 s

CPU Level 3缓存

28 ns (10 X L2)

1 min

DDR内存

100 ns

4 min

Intel傲腾

<10us

7 hrs

8GB HBA卡

50 us

1.5days

NVMe固态硬盘

~25us

17 hrs

固态硬盘

50–150 μs

1.5–4 days

机械硬盘

1–10 ms

1–9 months

        从硬件发展的趋势来看,传统的存储性能瓶颈在NVMe设备普及的情况下,越来越淡化,同时硬件性能的提升,也促进了分布式存储和开源数据库的快速发展。

        客观的讲,目前大部分的一体机,在技术层面没有多少创新,只是使用了全新的硬件架构,使得数据库性能达到了极大的提升。更多的是看对一体机本身的管理、监控以及相关扩展功能的一些提供,比如备份以及CDP/CDM等辅助功能。

        Linux设备发现,多路径管理,fio测试相关的知识,在《数据库系统IO性能测试方法》中进行了整理。

主机HBA卡信息
[root@dzqddb1 disk]# lspci | grep -i hba
c1:00.0 Fibre Channel: QLogic Corp. ISP2532-based 8Gb Fibre Channel to PCI Express HBA (rev 02)

服务器HBA端口编号
[root@dzqddb1 ~]# cd /sys/class/fc_host
host3 -> ../../devices/pci0000:c0/0000:c0:03.0/0000:c1:00.0/host3/fc_host/host3

存储前端端口编号
[root@dzqddb1 ~]# cd /sys/class/fc_remote_ports
rport-3:0-0 -> ../../devices/pci0000:c0/0000:c0:03.0/0000:c1:00.0/host3/rport-3:0-0/fc_remote_ports/rport-3:0-0

磁盘设备映射路径
[root@dzqddb1 ~]# udevadm info --query=all --name=/dev/sdak
P: /devices/pci0000:c0/0000:c0:03.0/0000:c1:00.0/host3/rport-3:0-1/target3:0:1/3:0:1:12/block/sdak

        包括一些磁盘参数的比对情况:


机械硬盘(HDD)

固态硬盘(SSD)

NVMe SSD

产品

希捷 ST4000DM006

INTEL SSD 545S

Intel SSD DC P4600

接口类型

SATA 6Gb/s

6 Gb/s SATA接口

PCIe NVMe 3.1 x4

容量

4TB

1.00 TB

4.00 TB

顺序读

220MB/s

550 MB/s

3200 MB/s

随机读

76

85000 

617500

顺序写


500 MB/s

1900 MB/s

随机写


75000

225000

读延迟

9 ms

50 µs

82 µs

写延迟

9 ms

50 µs

30 µs

价格

700¥

1500¥

19000¥

        推荐一下阿里云的一套视频,《深入解析数据存储技术原理及发展演进》,非常精彩。https://yq.aliyun.com/promotion/689,不过视频在线直播数据有点慢,想看下载视频的,可以用百度网盘下载离线版本:

链接:https://pan.baidu.com/s/1FEq6mtD4x8e2UDqeqIs8Bg 

提取码:kyq2 

        另外两个整理的文档也在网盘中有分享。


名称栏目:数据库IO性能知识整理
文章分享:http://hbruida.cn/article/iphops.html