BlazingSQL善用GPU优势相同硬体花费但运算效率却比Apache Spark高20倍
分散式GPU SQL引擎BlazingSQL最新版本应用程式与Apache Spark测试比较,在执行相同工作负载且维持相同成本的条件下,BlazingSQL的执行效能是Apache Spark的20倍。
在去年10月才对外发布的BlazingSQL,是採用RAPIDS资料科学框架的GPU加速SQL引擎,RAPIDS为一个全GPU端到端资料科学工作管线的开源函式库集,BlazingSQL扩展了RAPIDS,并让使用者以Apache Arrow在GPU记忆体中执行SQL查询。
在一月的时候,BlazingSQL先进行了一次效能实验,他们在Google云端平台上建立了Apache Spark以及BlazingSQL两个丛集,为维持相同成本配置,Apache Spark丛集使用8个8 CPU的节点,在BlazingSQL丛集使用一个搭载Tesla V1000 GPU与10个CPU的节点,官方提到,这两种硬体配置每月的支出约都在1500美元左右。
官方在GitHub公开了测试程式码,他们让这两个丛集执行相同的端到端分析工作负载,对资料进行特徵萃取工程,并以机器学习函式库XGBoost进行训练。对两种大小的资料集进行测试,BlazingSQL的执行速度比Apache Spark快了5倍。
而现在他们又再次对新版BlazingSQL做了一次基準测试,执行与上次相同的工作负载并在成本相当的条件下,BlazingSQL的执行速度是Apache Spark的20倍。在新测试中,除了BlazingSQL丛集用了Nvidia的T4 GPU,还改善了BlazingSQL中的SIMD Expression Interpreter。
官方表示,虽然T4是一颗入门级的GPU,价格较便宜但是却拥有良好的效能,比起前一个实验他们所使用的V100,价格便宜许多,因此将成本列入比较的限制时,这次Apache Spark丛集使用的节点也降低至4 CPU,以维持相同的成本支出。
不过,官方表示,这次试验大部分的效能增加,是来自于引擎的改进。BlazingSQL正在发展一个专为GPU DataFrames(GDF)打造的GPU执行核心SIMD表达式直译器(SIMD Expression Interpreter)。SIMD表达式直译器可以让系统同时接收多重输入,包括GDF栏位、文字,并在未来将能支援函式。
当系统载入这些输入时,SIMD表达式直译器能够最佳化GPU上暂存器的配置,因此能进一步最佳化GPU执行绪的占用率以及效能,让虚拟机器能同时处理多重输入以及输出,官方举例,过去BlazingSQL处理SELECT colA + colB * 10, sin(colA) — cos(colD) FROM tableA,会将该查询转换成+、*、 sin、cos和—等5个单独的运算,最后产生两个输出,SIMD表达式直译器则使用colA、colB和colD三个输入,并在单个核心执行全部5种运算,而后产生两个输出。官方表示。以这样的方式系统只需要载入一次colA、colB和colD,而非原本的两次。
目前SIMD Expression Interpreter的进度只能支援过滤器和投影运算,但已经能加速大多数的热门SQL运算。由于BlazingSQL仍处在发展初期,目前仍在0.2版本,官方也坦承说,BlazingSQL目前只能以单节点和单GPU执行,因此他们在实验上限制了运算资料量。
免责声明:本文为转载,非本网原创内容,不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
最新文章
- DNF搬砖最佳宠物搭配指南
- DNF白金徽章变现攻略:如何巧妙出售白金徽章
- 寒潮蓝色预警:近两日最低气温 0℃线南压至江南南部至贵州南部和云南北部一带
- DNA 纳米机器人:可改造人造细胞,推动合成生物学发展
- 新型巨型里德伯原子成为精准量子温度计
- 《生化危机9》重大爆料:里昂确定回归主角,吉尔缺席引热议
- 广东:到 2027 年 绿色低碳循环经济体系基本建成
- 2024 财年美国对外军售额创历史新高:背后的战略与影响
- 离子阱量子计算在近年实现双码纠错
- 这次与肯德基的全新联动,星铁再次硬控玩家热情?
- 新年多城土地市场回温:杭州单价地王纪录 3 个月内两度被打破,民企恢复拿地
- 扎克·克雷格执导新版《生化危机》电影,发行权引多家大公司激烈争夺
- 广东:积极推进煤炭消费控制,全力构建以新能源为主体的新型电力系统
- 广东:到 2027 年,全力构建绿色低碳循环经济体系
- 长三角铁路春运再创佳绩:昨日发送旅客 310.2 万人次
- 海通策略:2025 年政策见效下市场望步入基本面驱动新阶段,结构上科技制造确定性更强
- 《最终幻想14》水晶世界青魔法师职业任务全攻略
- 上海:推出乡村振兴领域优秀博士后创新计划,打造高潜力创新人才‘储备库’
- 春节机票价格跳水至百元,航司退差价政策各异引关注
- 浙江:到 2030 年,LNG 年接收能力达 4250 万吨
- 上海:启动乡村振兴博士后创新计划,打造高潜力人才‘蓄水池’
- 币界网晚讯速递:SHIB币价攀升至0.00002044美元,日内涨幅达2.10%
- 不知火舞《街霸6》惊艳换衣秀,细节之处尽显匠心,玩家为之痴狂
- 中国汽车:奋力争夺超豪华市场入场券