腾讯云最近推出了其自主研发的大数据高性能计算引擎——Meson,旨在打破AI场景下的大数据计算瓶颈,实现资源的高效利用。Meson通过整合软硬件加速技术和智能化策略,为数据湖、搜索分析服务和云数据仓库提供强大的计算加速支持。在数据湖场景下,Meson能将单个数据查询分析速度提升6倍,而在微信读书的“AI问书”项目中,它成功地减少了90%的大数据任务资源消耗。
Meson不仅包含了软件层面的向量化计算和JIT Compilation等优化技术,还利用GPU和FPGA硬件加速,实现了全面性能提升。借助智能查询优化和负载预测,Meson能够根据历史经验自动调整处理策略,使大数据分析更高效。例如,在腾讯云数据湖中,Meson兼容Spark的向量化计算,使处理大规模数据的性能提升了2.27倍以上,某些特定查询任务甚至达到6.2倍的性能提升。
在搜索分析领域,腾讯云Elasticsearch Service(ES)与Meson的结合,开创了GPU加速的先例,显著提升了ES的向量生成和检索速度。微信读书的“AI问书”便是这一技术的实践案例,成本降低且运维成本大减。此外,腾讯内部的云知、安灯、乐享等系统也受益于腾讯云ES和Meson,实现了信息检索的高效运行。
企业级数据仓库TCHouse借助Meson,通过查询优化、向量化计算和智能资源调度,提升了海量数据分析的速度和质量,为客户提供高性价比的实时数据分析服务。目前,腾讯云大数据已服务超过1000家中大型客户,覆盖能源、制造、电力等多个行业,得到了国家电网、中国商飞等头部企业的认可,数据量年增长率超过90%。
本文来源: 机器之心【阅读原文】© 版权声明
文章版权归作者所有,未经允许请勿转载。
相关文章
暂无评论...