从SIMD与AVX-512说起,你明白了吗?

数据库 其他数据库
Oceanbase也比较重视将向量化引擎引入数据库,利用SIMD来提升一些复杂分析类任务的性能。提高数据库单核计算性能,降低查询响应时间数据库来说至关重要。

昨天提到了PG 16开始支持SIMD了,并且我也说了很多数据库早就开始使用SIMD来充分利用CPU厂商提供的扩展指令集,特别是INTEL的AVX-512。很多DBA可能不太关注硬件,因为数据库虽然依赖于某些硬件平台,但是可以 相对独立的运行,在大多数情况下,DBA不太需要去关注硬件的细节。不过随着现代硬件的不断发展,数据库与硬件的结合越来越紧密,数据库产品也会充分的利用现代硬件的特性来加速某些任务。比如说通过对SIMD的支持来加速运算速度,从而提高行列转换,数据压缩,加解密等方面的性能。甚至有些数据库产品已经开始支持使用GPU的算力来进一步提高这些任务的性能。

AVX-512是Intel在2013年提出的一组512位扩展指令集,用于x86指令集架构(ISA)的高级向量扩展(Advanced Vector Extensions,SIMD)指令。它可以加速诸如科学模拟、金融分析、人工智能/深度学习、3D建模和分析、图像和音频/视频处理、加密和数据压缩等工作负载和用例的性能。通过SIMD,数据库产品可以调用AVX-512、SSE等扩展指令集的功能,同样也可以使用ARM芯片上的ASIMD、SVE2等指令集来达到类似的效果。

近些年GPU火起来了,在科学计算上GPU有着CPU无法比拟的性能。GPU通常拥有更多的计算单元和更高的内存带宽,因此在处理大规模的数据并行计算时,GPU的性能优势很明显。例如,在深度学习领域,GPU可以比CPU快几十倍甚至上百倍。SIMD的主要目的是利用一个指令同时对多个数据进行相同的操作,从而实现空间上的并行性和提高程序的运算速度。SIMD可以利用一组指令对多组数据通进行并行操作,如加法、乘法、比较等。SIMD可以应用于图像/音视频处理、数据分析、科学计算、数据加密和压缩和深度学习等大规模运算需求的应用场景。通过SIMD,可以让CPU在这方面的劣势得到一定程度的弥补。在使用AVX512指令集进行浮点数加法运算时,可以一次对8个双精度浮点数或16个单精度浮点数进行操作,相比于标量运算,可以提高8倍或16倍的性能。

虽然没有做过多的宣传,不过Oracle数据库很早就开始使用SIMD指令集做一些计算任务。在内存列存储中,使用SIMD指令集对数据进行压缩、解压缩、扫描、过滤、聚合等操作;在哈希连接中,使用SIMD指令集对数据进行哈希、构建、探测、收集等操作;在向量化表达式计算中,使用SIMD指令集对数据进行算术、逻辑、比较等操作。这些操作都可以提高Oracle数据库的性能和效率。

在其他数据库中,也有很多使用了SIMD来提高计算类任务的性能。比如TiDB也是比较早使用SIMD的数据库产品。最典型的是在TiFlash上,在表达式计算中,使用了SIMD指令集来加速向量化计算,提高了表达式的执行效率;在编码和解码中,使用了SIMD指令集来加速数据的压缩和解压缩,减少了数据传输和存储的开销;在哈希函数中,使用了SIMD指令集来加速哈希值的计算,提高了哈希表的性能;在排序算法中,使用了SIMD指令集来加速数据的比较和交换,提高了排序的效率。

Oceanbase也比较重视将向量化引擎引入数据库,利用SIMD来提升一些复杂分析类任务的性能。提高数据库单核计算性能,降低查询响应时间数据库来说至关重要。为帮助客户解决 HTAP 混合负载下数据查询效率难的问题,OceanBase 引入向量化技术设计了向量化查询引擎,实现了 HTAP 场景下复杂分析查询性能的大幅提升。在 TPC-H 30TB 测试场景下,OceanBase 向量化引擎的性能是非向量化的 3 倍。对于 Q1 这种聚合分析且计算密集的 SQL 查询,性能提升约 10 倍。测试结果可以证明,向量化引擎对提升 SQL 执行效率、降低用户的查询响应时间具有相当明显的效果。

图片

上面这张图来自于Oceanbase官方,并非我们自己的测试结果,从中可以看出向量化引擎的效果还是相当好的。目前引入向量化计算,更好的利用现代CPU的能力已经是广大数据库厂商的共识。对于数据库厂商和用户来说,这都是一件好事情,不过对于广大DBA来说,不能算是好事情。因为一个数据库产品,在CPU类型不同的服务器上,甚至在相同架构,但是存在代差的服务器上,可能跑出来的性能会差异较大,这会让人十分蒙圈。这年头,干DBA也真是一件十分苦逼的事情。


责任编辑:武晓燕 来源: 白鳝的洞穴
相关推荐

2022-09-19 09:03:08

命令压缩优化

2023-07-26 06:52:37

AVX10AVX10.1指令

2023-07-27 06:50:38

Inte升级版AVX10。

2023-11-15 09:34:27

.NET 8代码生成器

2023-06-08 07:14:56

Intel处理器架构

2022-10-24 20:25:40

云原生SpringJava

2022-12-30 08:35:00

2024-01-25 09:10:10

GoRust标准库

2022-04-07 11:15:22

PulseEventAPI函数

2023-12-28 08:43:28

前端算法搜索

2024-01-08 20:05:32

2022-10-19 08:19:32

动态基线预警

2023-03-03 16:38:28

JavaSpring框架

2023-12-08 08:38:15

EventLoopAPI浏览器

2022-10-10 18:38:56

inert属性键盘

2015-09-18 09:17:06

数据分析

2022-10-08 08:09:13

MGRGreatSQL事务

2023-01-02 23:58:03

2022-03-05 17:56:29

桌面应用开发

2023-06-14 08:15:34

算法合并操作Winner
点赞
收藏

51CTO技术栈公众号