标签:数据中心
英伟达新一代 Blackwell GPU 出现过热问题,影响数据中心高性能计算交付进度
感谢IT之家网友 HH_KK 和华南吴彦祖提供的线索! 据《The Information》报道,英伟达新一代 Blackwell 处理器在高容量服务器机架中出现了严重的过热问题。这些问题导致设计调整和项目延期,使得谷歌、Meta 和微软等主要客户对是否能够按计划部署 Blackwell 服务器产生了担忧。知情人士透露,Blackwell GPU 主要用于人工智能(AI)和高性能计算(HPC),但在配置有 72 个处理器的服务器中出现了过热问题,每机架的功耗最高可达 120 千瓦。 过热问题迫使英伟达多次修改机架设计,这不仅限制了 GPU 的性能,还可能导致硬件损...
美国私人数据中心建设投资激增,AI驱动下年支出接近300亿美元,计算能力与能源需求同步增长
据彭博社最新报道,美国企业正加大在数据中心的投资力度,以期在人工智能领域取得领先地位。美国人口普查局数据显示,目前美国私人数据中心的建设开支已达到每年近 300 亿美元(约合 2153.32 亿元人民币),比 2022 年底 OpenAI 推出 ChatGPT 时的支出翻了一番。当前,数据中心的建设预算已经超过了酒店、零售和休闲设施等传统资本密集型行业。 彭博社引用资金管理公司 KKR 的数据指出,美国在全球数据中心投资中处于领先地位,预计全球数据中心的相关支出将达到每年 2500 亿美元(约合 1.79 万亿元人民币)。随着 AI 技术...
生成式AI迅猛发展,一年或产生50万吨电子垃圾,数据中心可持续发展面临挑战
生成式AI发展加剧电子垃圾问题 11月8日,智东西报道指出,生成式AI的发展可能导致电子垃圾问题加剧。来自中国科学院、美国加州大学和以色列莱赫曼大学的研究人员在《自然-计算科学》发表了一篇论文,预测2020年至2030年,生成式AI可能产生高达500万吨的电子垃圾,相当于约250亿部iPhone 16 Pro的重量。 电子垃圾来源及地域分布 生成式AI产生的电子垃圾主要来自数据中心的高性能计算硬件,如GPU和CPU。从地域上看,北美地区贡献了58%的生成式AI电子垃圾,其次是东亚地区的25%,再次是西欧地区的14%。 竞争与贸易禁令的...
国金证券分析:AI集群与800G以太网推动下,数据中心及白盒交换机市场前景广阔,相关厂商将迎来重大机遇
国金证券最近发布的研究报告指出,以太网在数据中心的应用主要集中在传统云计算领域。随着大规模AI集群和推理需求的不断增长,以太网在数据中心的应用前景广阔。特别是800G以太网交换机,预计到2028年的出货量将达到180万台,复合年增长率(CAGR)高达120%。 报告进一步指出,白盒交换机、交换芯片、PCB(印制电路板)以及以太网高速连接方案供应商将显著受益于数据中心高速以太网交换机市场的快速增长。这些技术和服务提供商将在未来几年内迎来重要的市场机遇。
人工智能推动核电发展:小型模块化反应堆引领无碳电力未来
继甲骨文、微软、谷歌等科技巨头之后,亚马逊也宣布加入核电投资行列,支持在美国开发小型模块化核反应堆(SMRs)。这些公司正积极寻找新的无碳电力来源,以满足数据中心和人工智能日益增长的需求。 选择核电 自去年以来,随着ChatGPT等大模型应用的风靡,人工智能在全球范围内受到了广泛追捧。然而,人工智能的背后是巨大的算力需求,而算力的基础是大量的能源消耗。据国外研究机构的报告显示,ChatGPT每天要响应约2亿个请求,消耗超过50万千瓦时的电力,相当于1.7万个美国家庭的用电量。国际能源署的报告也指出,如果完...
前谷歌CEO埃里克·施密特力挺人工智能:应全力投资AI数据中心,同时追求碳中和目标,白鹳公司助力技术革新
近日,鞭牛士报道了前谷歌首席执行官埃里克·施密特在一次人工智能峰会中的发言。他表示,当前应该全力投入人工智能基础设施建设,尽管气候目标面临挑战。随着人工智能技术的发展,数据中心成为了重要的基础设施,提供了训练和运行AI模型所需的计算能力。然而,数据中心的快速发展也带来了高昂的成本,尤其是其巨大的能源消耗。 据麦肯锡的研究显示,到2030年,数据中心的电力消耗预计将从2021年的17千兆瓦增长至35千兆瓦。面对如此庞大的能耗,拜登政府设定了到2035年实现电力行业碳中和、2050年实现经济净零排放的目标。然...
黄仁勋:核电助力数据中心能源需求,AI算力硬件与基础设施更新共同应对电网老化问题
核电在数据中心中的应用 近日,据媒体报道,英伟达首席执行官黄仁勋在接受采访时提到,核电是满足数据中心日益增长的能源需求的一个理想选择。黄仁勋表示,虽然核能是一种出色的可再生能源,但它并不会成为数据中心唯一的能源来源。数据中心需要多种类型的能源,并且需要在这些能源的可用性、成本以及可持续性之间找到一个平衡。 AI算力硬件的能效提升 黄仁勋特别强调了英伟达最新一代AI算力硬件的能效提升。尽管这些设备的功耗比上一代有所增加,但它们通过加速AI模型训练和推理任务的完成,实现了更高的整体效率。这种...
NVIDIA数据中心与AI领域的资本支出决策分析:股价一夜暴跌2000亿美元背后的原因
近期,关于AI需求是否强劲的话题引发了广泛关注,“卖铲人”最先感受到了市场的温度。随着云计算厂商资本支出的增加,市场上出现了“AI泡沫论”的声音。在这个背景下,NVIDIA迎来了一季度备受瞩目的财报发布。 周三收盘后,NVIDIA公布了2025财年第二季度的财报,营收达到了创纪录的300亿美元,同比增长122%。其中,数据中心业务的表现尤为突出,实现了263亿美元的历史新高。尽管如此,NVIDIA的股价在财报公布后依然下跌了6.6%。 股价下跌的主要原因是数据中心业务的环比增长率显著放缓,仅增长了16%。这表明,云厂商等大客户的...
英伟达:并购战略下的全栈式数据中心与AI解决方案
英伟达加速收购步伐,打造全方位技术生态 英伟达近期在收购市场上展现出异常活跃的姿态,特别是在AI和数据中心领域。过去四个月,英伟达以每月一家的速度收购了数家相关企业,其中包括以色列的Run:ai、Deci、Shoreline以及Brev.dev等。这些举措不仅加强了英伟达在数据中心管理、深度学习开发平台等方面的技术实力,也体现了其长期发展战略中对于构建全栈式解决方案的决心。 回顾过去五年,英伟达共完成了13次收购,其中包括备受瞩目的69亿美元收购Mellanox案。这些收购不仅涵盖了数据中心的关键技术领域,如通信网络技术...
苹果利用谷歌硬件和数据中心投资来训练人工智能模型
随着人工智能领域的竞争日益激烈,各大科技巨头都在积极布局,力求在这一前沿领域占据领先地位。近日,苹果公司在一份技术文档中透露,在构建其核心AI系统——Apple Intelligence时,采用了一种非同寻常的方式。据IT之家7月30日报道,苹果的人工智能模型最初是在谷歌设计的云端处理器上进行预训练的。 该技术文档标题为《Apple Intelligence 基础语言模型》,详细阐述了苹果如何构建这些基础模型以及所使用的数据源。文档指出,苹果的基础模型(AFMs)及其支持的服务器技术最初是在谷歌的“v4 和 v5p 云端 TPU 集群”上构建完成的...