标签:Groq

Groq:AI芯片初创公司在D轮融资中以28亿美元估值募集6.4亿美元

Groq:AI芯片初创企业成功完成D轮融资 在当今科技快速发展的时代,人工智能(AI)领域的创新成为了众多投资者关注的焦点。近日,一家专注于AI芯片研发的初创公司Groq宣布,在最新的D轮融资中成功筹集到了6.4亿美元的资金,这一消息不仅展现了公司在AI硬件领域的强大实力,也标志着其市场价值达到了一个新的高度。 Groq融资概况 根据最新报道,Groq在D轮融资中的出色表现,使得公司的估值飙升至28亿美元。这一轮投资的成功,不仅为Groq带来了充足的资金支持,也为公司未来的产品研发和市场拓展奠定了坚实的基础。通过这次...

每秒800个token,这颗AI芯片挑战英伟达

近年来,人工智能推理领域的竞争日益激烈,其中一家名为Groq的初创公司以其创新的芯片技术引起了关注。Groq声称,其专为矩阵乘法优化的张量流处理器在为Meta最新发布的LLaMA 3大型语言模型提供服务时,实现了每秒超过800个token的惊人速度。这一成绩如果得到验证,将对比现有云AI服务产生重大影响。 Groq的处理器架构与传统的CPU和GPU不同,它专注于简化和确定性的执行模型,以提高AI推理的性能和效率。通过避免通用处理器的开销和内存瓶颈,Groq的解决方案有望在运行大型神经网络时实现更低的延迟、功耗和成本。对于需要快...

黑马Groq单挑英伟达,AI芯片要变天?

近来,AI领域迎来热潮,OpenAI、Meta和谷歌相继发布创新大模型。然而,AI芯片巨头英伟达也遭遇了初创公司Groq的挑战。Groq声称其LPU(语言处理单元)比GPT-4快18倍,每秒能处理500 tokens,速度惊人。Groq的LPU基于独特的张量流处理器,是英伟达GPU速度的10倍,延迟极低。该公司还设定了三年内超越英伟达的目标。 Groq的LPU芯片拥有230MB大容量SRAM,提供80TB/s内存带宽,750TOPs整型运算和188TFLOPs浮点运算速度。在Anyscale的LLMPerf排行中,Groq LPU的表现优于其他云推理供应商。实际应用中,Groq能在一秒钟内为长篇论文...

史上最快大模型炸场!Groq一夜爆红,自研LPU速度碾压英伟达GPU

AI领域再次掀起波澜,硅谷新秀Groq以其史上最快大模型和自主研发的LPU芯片吸引了广泛关注。这家非马斯克旗下的公司宣布开放免费试用,其闪电般的反应速度超越了GPT-4,每秒生成近500 tok/s,令网友惊叹。值得注意的是,Groq并非开发新模型,而是运用了开源模型Mixtral 8x7B-32k和Llama 270B-4k,并借助LPU(Language Processing Units)实现惊人速度。LPU的特色在于其高效,据2024年测试,其推理性能是顶级云服务商的18倍。搭载Groq LPU的Meta Llama 2能在7分钟内生成与《哈姆雷特》同等长度的文字,比人类打字快75倍。 在...