今天看啥  ›  专栏  ›  DataFunTalk

介绍一款刚开源的 Spark 向量化引擎,效果惊艳了!

DataFunTalk  · 公众号  · 科技自媒体 大数据  · 2024-09-30 13:00
    

主要观点总结

本文介绍了快手自研的Spark向量化引擎Blaze在大数据离线计算领域的应用。Blaze将向量化技术与Spark结合,大规模落地到生产环境,取得了线上资源收益。该项目已在社区开源,兼容Spark 3.0~3.5版本。文章还提到了即将在DA数智大会2024·深圳站进行的分享,包括向量化技术原理和业界应用、Blaze引擎的研发上线历程、社区开源计划和未来规划等。

关键观点总结

关键观点1: Blaze引擎将向量化技术与Spark结合,提高了性能并降低了资源消耗。

在TPC-DS 1TB测试中,Blaze相较于Spark 3.3版本减少了60%的计算时间,相较于Spark 3.5版本减少了40%的计算时间。在快手内部数仓生产作业中,也观测到了平均30%的算力提升。

关键观点2: Blaze引擎已在社区开源,兼容Spark 3.0~3.5版本,用户可轻松集成至现有Spark环境中。

开源版本全面兼容使得用户可以方便地将Blaze集成到现有的Spark环境中,享受其带来的性能优化。

关键观点3: 快手数据平台部数据引擎架构师张力将在DA数智大会上分享Blaze引擎的研发和实践。

分享内容包括向量化技术原理和业界应用、Blaze引擎的研发上线历程,以及社区开源计划和未来规划。


免责声明:本文内容摘要由平台算法生成,仅为信息导航参考,不代表原文立场或观点。 原文内容版权归原作者所有,如您为原作者并希望删除该摘要或链接,请通过 【版权申诉通道】联系我们处理。

原文地址: 访问原文地址
总结与预览地址:访问文章预览/总结
文章地址: 访问文章快照