腾讯Angel机器学习平台荣获世界互联网大会领先科技奖，助力大模型与自研技术数智化升级

腾讯Angel机器学习平台荣获2024年世界互联网大会领先科技奖

2024年11月19日，世界互联网大会在乌镇举行了领先科技奖的颁奖仪式。腾讯的Angel机器学习平台因其卓越的技术积累、创新的关键技术和广泛的应用场景，成功荣获本年度领先科技奖。该平台在万亿级模型的分布式训练和推理以及大规模应用部署方面取得了重大突破，实现了从底层硬件到关键软件技术的全面自主研发，显著推动了实体产业和数字经济的发展，提升了社会效率。

领先科技奖背景与评选标准

世界互联网大会领先科技奖由世界互联网大会主办，旨在表彰全球年度最具领先性的互联网科技成果，鼓励互联网技术的国际交流与合作。今年共有20个项目获得该奖项，入选率仅为7.4%，涵盖了类脑计算、具身智能、6G、大数据、高性能芯片、AI机器学习平台等前沿领域。

腾讯副总裁蒋杰的感言

腾讯公司副总裁蒋杰在颁奖现场表示，此次获奖是对腾讯在大模型相关自研技术的肯定。在大模型时代，模型参数超过万亿，训练数据超过十万亿，这给模型的训练和推理带来了巨大的挑战。腾讯自主研发的Angel机器学习平台有效应对了这些挑战，实现了多个方面的性能提升。未来，腾讯将继续投入底层技术的研发，并通过开源共享，推动技术创新，使智能技术惠及各行各业。

技术突破与性能提升

腾讯Angel机器学习平台在万亿规模大模型的分布式训练和推理、应用部署等方面实现了多项技术突破：

– 网络互联：腾讯自研的RDMA网络实现了集群高速互联，单节点带宽达到3.2T，相比同类领先产品，性能提升30%，成本降低70%。
– 框架效率：自研的训练/推理框架提出了显存加主存的一体化机制，实现了多维并行和算子优化，训练性能提升2.6倍，推理速度提升2.3倍。
– 平台规模：实现了单任务万卡的线性扩展，GPU集群加速比从50%提升到99%。

国际认可与广泛应用

作为智能时代的基础设施，腾讯Angel机器学习平台凭借扎实的技术积累，多次登顶国际权威领域榜单，获得20余项国际竞赛冠军。此外，Angel平台是中国首个从Linux Foundation毕业的顶级AI开源项目，被评为2019年度最受欢迎中国开源软件，吸引了众多外部开发者和企业用户，促进了技术的广泛应用和产业的协同发展。

荣誉与成就

2024年3月，腾讯Angel机器学习平台获得了2023年中国电子学会科技进步一等奖。腾讯基于Angel平台全链路自研的混元大模型在中国众多头部AI研发企业中率先采用了混合专家模型（MoE）结构，模型规模突破万亿，处于中国大模型第一梯队。

混元大模型的应用

11月初，腾讯推出了业界最大参数规模的开源MoE模型混元Large，总参数量达389B，激活参数量52B，上下文长度高达256K。该模型的训练和推理均基于腾讯Angel机器学习平台。目前，腾讯混元大模型已构建了从0.5B到70B不同尺寸的通用模型和领域模型，涵盖语言模型、多模态理解模型和多模态生成模型等，应用于超过700个腾讯业务场景，展示了其强大的应用潜力和价值。

行业应用与数智化升级

腾讯Angel机器学习平台通过腾讯云对外输出，广泛应用于大模型、广告、推荐、社交、金融等领域，服务30万行业客户，助力实体行业进行数智化升级。这些模型已应用于超过700个腾讯业务场景，展现了其强大的应用潜力和价值。

本文来源： 机器之心【阅读原文】