标签:AI算力

对话阿里云CTO周靖人:AI算力时代,通义千问引领大模型降价风潮,探索开源模型新未来

一、技术优化助力全线降价,企业级用户与开发者共享红利 在2024云栖大会的主论坛上,阿里云智能集团CTO周靖人宣布了通义大模型的一系列重大更新。其中,通义千问的三款主力模型再次大幅降价,最高降幅达到了85%,百万tokens的价格低至0.3元。周靖人表示,这次降价主要得益于规模效应和技术优化,使得模型推理成本显著降低。阿里云希望通过这种方式将技术红利带给企业级用户和开发者,推动整个产业的发展。 周靖人还提到,目前模型的应用仍处于早期阶段,很多新的模型迭代和Agent的使用都需要大量的并发调用。如果模型推理...

【无问芯穹】清华系AI Infra创企获近10亿融资,联想小米参投,打造AI算力大模型与异构云平台

无问芯穹(Infinigence AI),一家成立于2023年5月的清华系AI基础设施初创公司,在短短1年4个月内已经完成了近10亿元的融资。该公司由清华大学电子工程系教授汪玉发起,他的第一位博士毕业生夏立雪担任联合创始人兼CEO。无问芯穹的使命是“释放无限算力,让AGI触手可及”,致力于成为大模型时代的“算力运营商”。 无问芯穹刚刚宣布完成近5亿元的A轮融资,联合领投方包括社保基金中关村自主创新专项基金(君联资本担任管理人)、启明创投、洪泰基金等。跟投方包括联想创投、小米、软通高科等战略投资方,以及国开科创、上海人工...

中信证券:国内AI算力加速,关注算力与网络产业链

在2024年的科技浪潮中,人工智能(AI)产业犹如一颗璀璨的新星,迅速崛起并照亮了整个科技领域的天空。中信证券的一份深度研究报告指出,自年初以来,中国各大云服务提供商及电信运营商对AI领域的投资力度空前加大,展现出强烈的行业信心与市场潜力。据报告透露,三大运营商已联手推出了高达310亿元人民币的人工智能服务器采购计划,这一数字不仅彰显了中国在AI基础设施建设上的决心,也预示着未来市场的广阔前景。 然而,在全球科技竞争日益激烈的背景下,美国对华的技术出口限制为中国本土企业带来了前所未有的挑战与机遇...

中金公司揭示:AI算力增强引领数据中心GPU技术创新,服务器电源功率密度的重要性日益凸显

在最新的研究分析报告中,中国中金公司指出,服务器电源在构建高效数据中心供电体系中扮演着至关重要的角色。随着人工智能计算能力的不断提升,先进的AI服务器电源的需求正日益增强。特别是GPU技术的进步,对AI服务器电源的功率及功率密度设定了新的高标准。以 NVIDIA 的H100服务器机架为例,其功率需求达到10.2kw,需要配备高达19.8kw的电源支持;相比之下,NVL72机架的120kw功率则需要198kw的电源配合。 然而,服务器电源的设计面临一项挑战,即如何在有限的空间内实现功率的扩展。传统的服务器电源功率密度通常不超过50w...

百模大战引爆「千卡集群竞赛」,“中国英伟达”交卷了

在当前AI领域,大模型的训练对算力需求激增,引发了AI算力荒,从芯片短缺演变为对AI算力集群的巨大需求。中国的智能算力供应面临严重不足,尤其是在GPU全球短缺的情况下。政策层面,北京市已提出支持建设超大规模智算集群以满足大模型训练,并鼓励使用自主可控GPU。国内企业如华为云和摩尔线程等正在加速布局大规模智算集群,以应对大模型的多样化需求。 摩尔线程作为国内AI芯片公司,已建成三座千卡智算中心,通过其夸娥智算中心解决方案,提供一站式的GPU算力管理和优化服务。这些智算中心支持多种大模型的训练和微调,提...

微软、OpenAI投资1000亿美元,打造“Stargate”超级计算机

微软与OpenAI合作开发的新一代数据中心项目曝光,计划打造一台名为“Stargate”的超级计算机,配置数百万AI定制芯片,以支持OpenAI的尖端研发和产品服务。据知情人士透露,这个项目的总投资高达1000亿美元。早在2020年,微软已在Azure云中为OpenAI构建了一台拥有10,000个GPU和285,000个CPU的超级计算机,为ChatGPT和DALL·E3等产品的诞生奠定了基础。新项目Stargate将超越前作,助力OpenAI实现先进的人工通用智能(AGI)模型。 Stargate项目分为五个阶段,目前处于第三阶段中期。预计2026年会有一个较小规模的超级计算机上线,...

AI国力战争:GPU是明线,HBM是暗线

随着全球AI算力竞争的加剧,'算力即国力'的理念已被广泛接受。英伟达的财报揭示各国正致力于构建自主AI算力,其中大模型和GPU成为关键。尽管国产大模型在努力追赶,但GPU领域的领导地位以及HBM(高带宽内存)的重要性不容忽视。HBM在AI芯片中的角色日益凸显,目前主要由韩国企业海力士和三星垄断,它们在技术和产能上占据显著优势。 韩国政府通过立法支持HBM技术,为其提供税收优惠,进一步巩固了本国企业在这一领域的领先地位。面对HBM的高成本和供不应求的现状,中国在AI算力的三大要素——先进制程、GPU和HBM——中面临潜在...

烟台父子做芯片配件,一年大赚140亿

英伟达市值破两万亿,中际旭创受益飙升,烟台父子财富暴涨。作为高端光模块制造商,中际旭创虽未公开客户名单,但业内推测英伟达是其重要客户之一。受大模型趋势推动,公司股价在过去一年内翻了约3.5倍,Sora发布当月上涨50%。预计2023年净利润20-23亿,同比增长63%-88%。王氏父子持有公司14.96%股份,股权价值约177亿,年增值140亿。 2月中,OpenAI的大模型Sora发布前,中际旭创股价已上涨,后因误传英伟达下单消息,股价一度涨停。尽管澄清,公司股价仍保持上涨态势。高端光模块占中际旭创业务的90%以上,国产化程度高,A...