标签：AI芯片

在信息技术领域，Cerebras公司最近推出了一款革命性的第三代芯片——WSE-3，旨在提升AI性能的同时保持能耗不变。这款采用台积电5纳米工艺制造的巨无霸芯片拥有4万亿个晶体管和90万个AI核心，展现出强大的计算能力。WSE-3配备了44GB的片上SRAM缓存，并提供了1.5TB、12TB和1.2PB三种不同的片外内存选项，为用户提供灵活的选择。其AI峰值算力高达125 PFLOPS，远超前代产品WSE-2。 Cerebras的CS-3系统基于WSE-3芯片，拥有前所未有的1.2PB内存容量，可支持训练比GPT-4和Gemini大10倍的先进AI模型。这一系统能够在一个统一的内存空...

近来，AI领域迎来热潮，OpenAI、Meta和谷歌相继发布创新大模型。然而，AI芯片巨头英伟达也遭遇了初创公司Groq的挑战。Groq声称其LPU（语言处理单元）比GPT-4快18倍，每秒能处理500 tokens，速度惊人。Groq的LPU基于独特的张量流处理器，是英伟达GPU速度的10倍，延迟极低。该公司还设定了三年内超越英伟达的目标。 Groq的LPU芯片拥有230MB大容量SRAM，提供80TB/s内存带宽，750TOPs整型运算和188TFLOPs浮点运算速度。在Anyscale的LLMPerf排行中，Groq LPU的表现优于其他云推理供应商。实际应用中，Groq能在一秒钟内为长篇论文...

自从ARM成功登陆纳斯达克已有五个月，作为半导体行业有史以来最大规模的IPO，ARM上市后的股价虽有所波动，总体表现仍让人满意，目前其股价稳定在121美元附近，总市值达到了1252亿美元。软银在这场对ARM的成功押注中大获全胜，不仅填补了在WeWork和中概股上的损失，而且还准备重振旗鼓，再次进军半导体行业，特别是瞄准热门的AI芯片领域。根据彭博社的消息，孙正义计划募集1000亿美元投资AI芯片企业，新项目名为“Izanagi”，寓意源自日本文化中的创世与生命之神。 软银对半导体产业的信心增强，尤其是有了ARM的成功经验。然而...

AI领域再次掀起波澜，硅谷新秀Groq以其史上最快大模型和自主研发的LPU芯片吸引了广泛关注。这家非马斯克旗下的公司宣布开放免费试用，其闪电般的反应速度超越了GPT-4，每秒生成近500 tok/s，令网友惊叹。值得注意的是，Groq并非开发新模型，而是运用了开源模型Mixtral 8x7B-32k和Llama 270B-4k，并借助LPU（Language Processing Units）实现惊人速度。LPU的特色在于其高效，据2024年测试，其推理性能是顶级云服务商的18倍。搭载Groq LPU的Meta Llama 2能在7分钟内生成与《哈姆雷特》同等长度的文字，比人类打字快75倍。 在...