标签：GPU

英伟达，这家在芯片市场占据主导地位的巨头，尽管在2025财年一季度实现了惊人的262%同比增长，股价首次突破每股1000美元，但仍面临一系列挑战。竞争对手AMD和英特尔正在研发可替代英伟达产品的芯片。AMD的MI300X在某些AI性能上已超越英伟达的H100，而英特尔的Gaudi 3在训练速度上具有显著优势。微软等大客户也开始采用AMD芯片作为英伟达的替代选项。此外，随着AI推理需求的增长，英伟达的芯片在推理领域的必要性减弱，市场需求出现不确定性。面对挑战，英伟达加快产品迭代速度，计划每年推出新产品，并强调其全产品线的CUDA...

随着人工智能（AI）技术的发展，日常办公和生活方式发生了翻天覆地的变化，如一键生成会议纪要、智能推荐系统和自动驾驶等。这些进步的背后，AI芯片起着至关重要的作用，它们是AI的“大脑”，处理海量数据，驱动复杂算法。科技巨头如NVIDIA、AMD、Intel等纷纷推出自家的AI芯片，如NVIDIA的H100/200、AMD的Instinct MI300，以及集成在电脑产品中的NPU。 GPU是AI领域中的关键组件，以其高效并行处理能力处理AI的矩阵运算和深度学习任务，例如NVIDIA的H100/200。FPGA（现场可编程门阵列）则提供了高度定制化和灵活性，适合于深度...

在近期的访谈中，Meta的人工智能负责人Yann LeCun透露，Meta为了购买英伟达GPU已经斥资300亿美元，这一数额超过了阿波罗登月计划的花费。尽管数额惊人，但与微软和OpenAI联合打造的1000亿美元“星际之门”项目相比，仍显得相形见绌。谷歌DeepMind的CEO Demis Hassabis更是宣称，谷歌在这方面的投入会超过这个数字。科技巨头们在人工智能（AI）领域的投资日益加剧，争夺通用人工智能（AGI）的竞赛异常激烈。 Meta的巨额投入主要用于GPU的购买和部署，解决GPU供应问题。在开源项目Llama3上，Meta也取得了显著成果，其模型架构和...

1. Meta推出了新AI模型Llama3，其训练使用了比前代模型Llama2多8倍的H100 GPU，加剧了AI训练对电力的依赖。 2. AI发展的电力需求引发关注，OpenAI CEO、马斯克和黄仁勋等业界领袖警告，电力短缺可能成为AI发展的瓶颈，而AI的能耗远超预期。 3. AI的能耗分为软件和硬件两部分，硬件中的芯片制造尤其耗水，如台积电每年耗水约8000万吨。软件和硬件的能耗对比，AI尚未在能耗和成本上优于人脑。 4. AI的能耗产出比需综合考虑，其在各行业的应用潜力巨大，能提高生产力。专家探讨了AI能耗的计算方法和降低能耗的途径，包括改进硬...

在当前AI领域，大模型的训练对算力需求激增，引发了AI算力荒，从芯片短缺演变为对AI算力集群的巨大需求。中国的智能算力供应面临严重不足，尤其是在GPU全球短缺的情况下。政策层面，北京市已提出支持建设超大规模智算集群以满足大模型训练，并鼓励使用自主可控GPU。国内企业如华为云和摩尔线程等正在加速布局大规模智算集群，以应对大模型的多样化需求。 摩尔线程作为国内AI芯片公司，已建成三座千卡智算中心，通过其夸娥智算中心解决方案，提供一站式的GPU算力管理和优化服务。这些智算中心支持多种大模型的训练和微调，提...

随着全球AI算力竞争的加剧，'算力即国力'的理念已被广泛接受。英伟达的财报揭示各国正致力于构建自主AI算力，其中大模型和GPU成为关键。尽管国产大模型在努力追赶，但GPU领域的领导地位以及HBM（高带宽内存）的重要性不容忽视。HBM在AI芯片中的角色日益凸显，目前主要由韩国企业海力士和三星垄断，它们在技术和产能上占据显著优势。 韩国政府通过立法支持HBM技术，为其提供税收优惠，进一步巩固了本国企业在这一领域的领先地位。面对HBM的高成本和供不应求的现状，中国在AI算力的三大要素——先进制程、GPU和HBM——中面临潜在...

近日，全球知名图形处理单元（GPU）制造商英伟达推出了全新的H200 GPU，这是一款专为人工智能（AI）领域设计的尖端半导体产品，其性能超越了当前主力的H100。据英伟达官方测试，H200在处理Meta公司的大型语言模型Llama 2时，AI生成答案的速度相较于H100提升了45%。据市场研究机构Omdia的数据，2022年英伟达在AI半导体市场的占有率高达80%，然而面对AMD等竞争对手的挑战，市场竞争日益激烈。 在最近的开发者大会上，英伟达宣布将在年内推出新一代AI半导体B200，并且结合CPU推出新产品，用于最新的大型语言模型（LLM）。英伟...

在最近的英伟达GTC大会上，NVIDIA的首席科学家Bill Dally和AI研究副总裁Sanja Fidler向全球媒体展示了创新的3D生成模型——LATTE3D。这个模型仿佛是一台虚拟3D打印机，只需输入文字描述，就能在消费级GPU上迅速生成各种3D形状，包括物体和动物，供创作者选择和优化。与以往技术相比，LATTE3D的生成速度显著提升，从过去的一小时缩短至现在的几秒钟。演示中，模型轻松地创造出小蛋糕、猪猪气球等形象，几乎实现即时生成，且生成的3D素材可以直接用于图形软件或平台，如Omniverse。 NVIDIA Research团队致力于未来技术的研发，...

英伟达CEO黄仁勋在近期的讲话中表达了对公司GPU竞争力的自信，他认为即使竞争对手的芯片价格为零，英伟达的产品依然具有不可比拟的价值。他指出，对于AI数据中心的总拥有成本（TCO）而言，英伟达GPU的定价策略并不构成问题。黄仁勋提到，英伟达不仅面对激烈的市场竞争，有时客户也是对手，但他们仍以开放态度支持对手，甚至分享未来产品计划。他坚信，英伟达的领先优势在于快速部署、高效性能、高利用率和灵活性，这些远超芯片本身的售价。黄仁勋还透露，下一代DGX AI系统将采用液冷技术。

当前，Sora的热潮席卷而来，国内的大型模型企业正面临着如何迎头赶上的挑战。据360集团创始人周鸿祎的观点，如果Sora的技术路径开放源代码，国内企业有望迅速跟进。然而，关键的难题在于算力——这可能是追赶过程中的一个显著壁垒。为解决这个问题，他建议整合国内所有AI企业的计算资源或许是一条可行之路。 鉴于Sora在视频分析中对算力的需求远超大规模模型，当前国内GPU供应受限的状况无疑加大了难度。据新京报报道，Meta已拥有50万块GPU，并计划明年增加至百万块；微软预计也将进行百万级别的GPU采购。相比之下，国内所有...