Cerebras 推出第三代晶圆级芯片 WSE-3:台积电 5nm 制程,性能翻倍

在信息技术领域,Cerebras公司最近推出了一款革命性的第三代芯片——WSE-3,旨在提升AI性能的同时保持能耗不变。这款采用台积电5纳米工艺制造的巨无霸芯片拥有4万亿个晶体管和90万个AI核心,展现出强大的计算能力。WSE-3配备了44GB的片上SRAM缓存,并提供了1.5TB、12TB和1.2PB三种不同的片外内存选项,为用户提供灵活的选择。其AI峰值算力高达125 PFLOPS,远超前代产品WSE-2。

Cerebras的CS-3系统基于WSE-3芯片,拥有前所未有的1.2PB内存容量,可支持训练比GPT-4和Gemini大10倍的先进AI模型。这一系统能够在一个统一的内存空间内处理24000T参数规模的模型,极大地简化了开发者的工作流程。对于大规模AI应用,CS-3表现出色,四个系统的集群能在一天内优化70B模型,而2048个系统的集群则能在同时间内完成Llama 70B模型的训练。

CS-3系统的易用性同样引人注目,它在大模型训练中的编程复杂度比GPU降低了97%,只需565行代码即可实现与GPT-3相当的模型。此外,阿联酋的G42集团宣布将构建基于Cerebras CS-3的Condor Galaxy 3超级计算机,包含64个系统,总计可提供8 exaFLOP的AI计算能力。

本文来源: IT之家【阅读原文】
© 版权声明

相关文章

暂无评论

您必须登录才能参与评论!
立即登录
暂无评论...