基于CPU服务器实现Llama2等应用落地，英特尔展示五代至强可扩展芯片实践

在中国北京举办的英特尔数据中心产品技术媒体分享会上，英特尔的技术专家们深入解析了新一代服务器CPU——第五代英特尔至强可扩展处理器的技术特性和市场前景。随着AI技术的快速发展，预计到2026年，生成式AI市场规模将达3000亿美元，大部分企业将采用生成式AI提高生产力。第五代至强处理器在核心数量和性能指标上显著提升，最多可搭载64个核心，并引入AMX、AVX等新指令集，对AI应用性能提升显著。处理器的内存带宽和三级缓存也有所增加，支持超过300个深度学习模型和优化过的50个CPU模型。通过硬件和软件的优化，第五代至强在AI训练和推理方面展现出40%的性能提升。活动现场，第五代至强展示了在GPT-J和Llama2等大模型推理上的优秀表现，满足了各种应用需求，包括聊天机器人、内容生成等。此外，合作伙伴如阿里云和百度云验证了第五代至强在运行大型模型时的高效性能，相比云服务，采用至强的生成式AI服务初期成本更低。未来，英特尔将继续优化至强可扩展处理器，推出高主频、高能效的CPU核架构，以适应不断发展的数据中心需求。

本文来源： 机器之心【阅读原文】