标签:英伟达

英伟达 AI 芯片 H200 开始供货,性能相比 H100 提升 60%-90%

近日,全球知名图形处理单元(GPU)制造商英伟达推出了全新的H200 GPU,这是一款专为人工智能(AI)领域设计的尖端半导体产品,其性能超越了当前主力的H100。据英伟达官方测试,H200在处理Meta公司的大型语言模型Llama 2时,AI生成答案的速度相较于H100提升了45%。据市场研究机构Omdia的数据,2022年英伟达在AI半导体市场的占有率高达80%,然而面对AMD等竞争对手的挑战,市场竞争日益激烈。 在最近的开发者大会上,英伟达宣布将在年内推出新一代AI半导体B200,并且结合CPU推出新产品,用于最新的大型语言模型(LLM)。英伟...

消息称英伟达有意收购 AI 基础设施虚拟化创企 Run:ai,交易金额最高十亿美元

英伟达近期传出重大新闻,计划收购一家专注于AI基础设施虚拟化的创新公司Run:ai,收购价可能高达10亿美元。Run:ai的工作负载管理平台最近在英伟达的DGX SuperPOD系统中获得了官方认证,其独特的AI编排技术能够简化AI和机器学习项目的执行,以应对日益增长的生成式AI和大规模模型需求。这家初创公司由CEO奥姆里・盖勒和CTO罗宁・达尔共同创立,他们在特拉维夫大学电子工程学院相识并合作。达尔有丰富的研究和工程背景,曾在贝尔实验室和Anobit Technologies任职。 Run:ai的核心技术在于将传统的操作系统虚拟化与GPU驱动的...

英伟达黄仁勋回应AI芯片定价问题,强调中国市场重要性

英伟达CEO黄仁勋在3月19日的全球媒体采访中指出,全球数据中心市场是公司的重要机遇,而AI芯片的定价策略则更注重于传递价值感知而非具体价格。黄仁勋解释,英伟达不直接销售芯片,而是提供数据中心解决方案,价格因客户需求和系统配置各异。他强调,全球数据中心市场的规模正以20%至25%的速度增长,达到了约2500亿美元,为英伟达带来巨大商机。此外,英伟达对中国市场高度重视,已推出L20和H20芯片以适应中国市场,并指出公司的供应链全球化,难以割裂。在GTC 2024大会上,英伟达发布了Blackwell GB200 AI加速卡,其AI性能...

昨天,黄仁勋举办了一场“AI春晚”

在全球AI产业的年度盛事——英伟达“GTC开发者大会”上,英伟达CEO黄仁勋发布了多款新产品,引领新一轮技术浪潮。新推出的Blackwell GPU架构,拥有2080亿个晶体管,支持大规模AI模型,而基于此架构的GB200超级芯片,其算力远超前代产品,吸引了OpenAI等顶级科技公司的关注。此外,英伟达还推出了针对机器人领域的GROOT大模型以及车载计算平台DRIVE Thor,后者被多家中国车企选用。黄仁勋在演讲中展现出对AI的坚定信念,但并未提及竞争对手,表现出强烈的自信。大会还涉及人形机器人、自动驾驶等多个领域的前沿趋势,引发业界讨论。

上市公司详解“铜缆连接”技术准备,光模块仍少不了 业内:黄仁勋“千年说”略夸张

在今天的GTC大会上,英伟达创始人黄仁勋揭示了创新的AI芯片架构——Blackwell,其中最引人注目的是首款采用铜缆连接的GB200芯片。尽管铜缆连接在数据中心的全面应用尚需时日,因其高速度和低成本特性,已被视为行业未来趋势。黄仁勋宣布GB200将于今年晚些时候面世,该芯片采用72个Blackwell GPU通过5000根NVLink铜缆连接,展现了铜缆技术的巨大潜力。 A股市场对此反应积极,高速连接器概念股票如华丰科技、鼎通科技等纷纷涨停。立讯精密透露,公司已开发出112G PAM4铜缆产品,能够延长铜缆应用长度至5米,满足数据中心对短距...

股价1年飙涨超12倍!AI浪潮下的超微电脑比英伟达还夸张

随着人工智能领域的持续发展,英伟达作为业界巨头,其股价在最近一年内实现了显著增长。然而,其合作伙伴超微电脑(Advanced Micro Devices, AMD)的表现更为抢眼,股价在12个月内暴涨超过12倍。这家原本低调的服务器制造商,现已成为众多企业和政府机构在AI领域中的首选合作对象。即将被纳入标普500指数的超微电脑,有望成为今年该指数的最大赢家。 超微电脑自1993年在硅谷创立以来,凭借创始人梁见后与英伟达创始人黄仁勋的深厚友谊以及地理位置的接近,两家公司建立了紧密的合作关系。超微电脑的成功秘诀在于其庞大的库...

黄仁勋:即使竞争对手的AI芯片免费提供,也无法击败英伟达方案

英伟达CEO黄仁勋在近期的讲话中表达了对公司GPU竞争力的自信,他认为即使竞争对手的芯片价格为零,英伟达的产品依然具有不可比拟的价值。他指出,对于AI数据中心的总拥有成本(TCO)而言,英伟达GPU的定价策略并不构成问题。黄仁勋提到,英伟达不仅面对激烈的市场竞争,有时客户也是对手,但他们仍以开放态度支持对手,甚至分享未来产品计划。他坚信,英伟达的领先优势在于快速部署、高效性能、高利用率和灵活性,这些远超芯片本身的售价。黄仁勋还透露,下一代DGX AI系统将采用液冷技术。

英伟达陷入“诉讼麻烦”:被诉滥用版权作品训练NeMo!

英伟达,著名AI芯片制造商,面临法律挑战,三位作家控诉其未经许可使用版权书籍训练NeMo AI平台。Brian Keene、Abdi Nazemian和Stewart O'Nan的著作被包含在一个用于训练NeMo的大规模数据集中,但随后因涉嫌侵犯版权被移除。作者们在旧金山联邦法院提起集体诉讼,要求英伟达承认并赔偿损失。此案件将英伟达卷入了与生成式人工智能相关的版权纠纷浪潮,这类AI技术能创造新的文本内容。尽管如此,英伟达的股票自去年底以来已飙升约600%,市值逼近2.2万亿美元。同时,OpenAI和微软也因类似技术面临诉讼。

ChatGPT日耗电超过50万度:美国普通家庭用电量的1.7万多倍

据快科技3月10日报道,OpenAI的明星产品ChatGPT每日耗电量惊人,超过50万千瓦时,远超美国家庭平均日用电量的29千瓦时,其能耗相当于普通家庭的近17000倍。随着生成式AI应用的扩展,电力需求可能持续增长。荷兰银行的数据科学家预测,到2027年,AI行业年消耗电力可能在85至134太瓦时之间,相当于肯尼亚、危地马拉和克罗地亚三国的总发电量。 尽管AI产业迅速发展,但科技巨头们对能源消耗的具体数据保持低调。AI模型间的运行差异加大了电量估算的难度。值得一提的是,英伟达在GPU市场占据主导地位,接近95%的市场份额。预计...

AI创企获4000万美元融资!乘AI推理东风,去年收入超百万美金

【智东西】美国AI软件公司Baseten近期完成4000万美元B轮融资,估值超2亿美元,引领AI推理市场新热潮。IVP和Spark Capital领投,Greylock、Conviction Partners等参投。受益于ChatGPT等工具的流行,Baseten去年收入猛增,专注于帮助客户将AI模型应用于实际场景。推理在AI市场的地位日益凸显,英伟达CEO表示推理占其去年计算收入的40%。 Baseten成立于2019年,起初专注机器学习研究,现聚焦AI推理,支持企业轻松部署AI应用。随着OpenAI的ChatGPT等产品的广泛采用,Baseten抓住机遇,提供自动调整计算资源的服务,确保无停机时...
13456