标签：AI芯片

微软和OpenAI联手打造的AI超级计算机计划浮出水面，预计投入高达1000亿美元，目标在2028年推出名为Stargate的美国超级计算机。这个项目旨在创建一个配备数百万专用服务器芯片的超级计算机，以支持OpenAI的人工智能研究和运行。项目预计需要的电力将前所未有的高达5千兆瓦。尽管仍处于规划阶段，但这一合作反映了两家公司在AI领域的雄心和对计算能力的巨大需求。 微软已对OpenAI投资超过130亿美元，以换取OpenAI技术的使用权，并将其整合到Office、Teams和Bing等产品中。OpenAI的CEO Sam Altman认为，服务器资源的不足是制约...

英伟达CEO黄仁勋在3月19日的全球媒体采访中指出，全球数据中心市场是公司的重要机遇，而AI芯片的定价策略则更注重于传递价值感知而非具体价格。黄仁勋解释，英伟达不直接销售芯片，而是提供数据中心解决方案，价格因客户需求和系统配置各异。他强调，全球数据中心市场的规模正以20%至25%的速度增长，达到了约2500亿美元，为英伟达带来巨大商机。此外，英伟达对中国市场高度重视，已推出L20和H20芯片以适应中国市场，并指出公司的供应链全球化，难以割裂。在GTC 2024大会上，英伟达发布了Blackwell GB200 AI加速卡，其AI性能...

在信息技术领域，Cerebras公司最近推出了一款革命性的第三代芯片——WSE-3，旨在提升AI性能的同时保持能耗不变。这款采用台积电5纳米工艺制造的巨无霸芯片拥有4万亿个晶体管和90万个AI核心，展现出强大的计算能力。WSE-3配备了44GB的片上SRAM缓存，并提供了1.5TB、12TB和1.2PB三种不同的片外内存选项，为用户提供灵活的选择。其AI峰值算力高达125 PFLOPS，远超前代产品WSE-2。 Cerebras的CS-3系统基于WSE-3芯片，拥有前所未有的1.2PB内存容量，可支持训练比GPT-4和Gemini大10倍的先进AI模型。这一系统能够在一个统一的内存空...

近来，AI领域迎来热潮，OpenAI、Meta和谷歌相继发布创新大模型。然而，AI芯片巨头英伟达也遭遇了初创公司Groq的挑战。Groq声称其LPU（语言处理单元）比GPT-4快18倍，每秒能处理500 tokens，速度惊人。Groq的LPU基于独特的张量流处理器，是英伟达GPU速度的10倍，延迟极低。该公司还设定了三年内超越英伟达的目标。 Groq的LPU芯片拥有230MB大容量SRAM，提供80TB/s内存带宽，750TOPs整型运算和188TFLOPs浮点运算速度。在Anyscale的LLMPerf排行中，Groq LPU的表现优于其他云推理供应商。实际应用中，Groq能在一秒钟内为长篇论文...

自从ARM成功登陆纳斯达克已有五个月，作为半导体行业有史以来最大规模的IPO，ARM上市后的股价虽有所波动，总体表现仍让人满意，目前其股价稳定在121美元附近，总市值达到了1252亿美元。软银在这场对ARM的成功押注中大获全胜，不仅填补了在WeWork和中概股上的损失，而且还准备重振旗鼓，再次进军半导体行业，特别是瞄准热门的AI芯片领域。根据彭博社的消息，孙正义计划募集1000亿美元投资AI芯片企业，新项目名为“Izanagi”，寓意源自日本文化中的创世与生命之神。 软银对半导体产业的信心增强，尤其是有了ARM的成功经验。然而...

AI领域再次掀起波澜，硅谷新秀Groq以其史上最快大模型和自主研发的LPU芯片吸引了广泛关注。这家非马斯克旗下的公司宣布开放免费试用，其闪电般的反应速度超越了GPT-4，每秒生成近500 tok/s，令网友惊叹。值得注意的是，Groq并非开发新模型，而是运用了开源模型Mixtral 8x7B-32k和Llama 270B-4k，并借助LPU（Language Processing Units）实现惊人速度。LPU的特色在于其高效，据2024年测试，其推理性能是顶级云服务商的18倍。搭载Groq LPU的Meta Llama 2能在7分钟内生成与《哈姆雷特》同等长度的文字，比人类打字快75倍。 在...