标签:GPU
一夜涨出1个可口可乐,英伟达无愧为AI时代的领航者
英伟达,全球科技股的璀璨明星,十年前的1000美元投资如今可换得22340%的惊人回报。这家公司在AI革命中扮演关键角色,市值飙升至历史高位,超越Meta和可口可乐。尽管面临微软、Google等大客户自研AI芯片的挑战,以及新秀Grop的LPU芯片竞争,英伟达依然屹立不倒。其GPU需求持续旺盛,净利率高达56%,并积极与行业巨头合作,推动AI发展。英伟达的CUDA平台和广泛的开发者生态系统使其在汽车、医疗等垂直领域占据优势,短期内其市场地位难以撼动。随着AI需求的爆发式增长,英伟达将继续引领潮流,股价仍有上升空间。
史上最快大模型炸场!Groq一夜爆红,自研LPU速度碾压英伟达GPU
AI领域再次掀起波澜,硅谷新秀Groq以其史上最快大模型和自主研发的LPU芯片吸引了广泛关注。这家非马斯克旗下的公司宣布开放免费试用,其闪电般的反应速度超越了GPT-4,每秒生成近500 tok/s,令网友惊叹。值得注意的是,Groq并非开发新模型,而是运用了开源模型Mixtral 8x7B-32k和Llama 270B-4k,并借助LPU(Language Processing Units)实现惊人速度。LPU的特色在于其高效,据2024年测试,其推理性能是顶级云服务商的18倍。搭载Groq LPU的Meta Llama 2能在7分钟内生成与《哈姆雷特》同等长度的文字,比人类打字快75倍。 在...