标签:电力消耗

【解读】费电但极具潜力的“大脑”:如何理解AI耗能问题?

1. Meta推出了新AI模型Llama3,其训练使用了比前代模型Llama2多8倍的H100 GPU,加剧了AI训练对电力的依赖。 2. AI发展的电力需求引发关注,OpenAI CEO、马斯克和黄仁勋等业界领袖警告,电力短缺可能成为AI发展的瓶颈,而AI的能耗远超预期。 3. AI的能耗分为软件和硬件两部分,硬件中的芯片制造尤其耗水,如台积电每年耗水约8000万吨。软件和硬件的能耗对比,AI尚未在能耗和成本上优于人脑。 4. AI的能耗产出比需综合考虑,其在各行业的应用潜力巨大,能提高生产力。专家探讨了AI能耗的计算方法和降低能耗的途径,包括改进硬...

Arm CEO 示警:美国未来 20%-25% 的电量将被 AI 数据中心消耗

Arm CEO警示:AI数据中心电力消耗激增,ChatGPT成焦点 随着人工智能(AI)技术的迅速发展,Arm公司CEO雷内·哈斯揭示了一个严峻的问题:AI模型的智能提升与其能源消耗同步增长。以OpenAI的ChatGPT为例,这类大型语言模型对电力的需求日益庞大,预计到2030年,AI数据中心可能占据美国20%至25%的电力消耗,远超目前的4%。ChatGPT每日处理的海量请求使得其日耗电量超过50万千瓦时,是普通美国家庭日用电量的1.7万倍。面对这一挑战,Arm正在致力于减少AI技术的能耗。国际能源机构(IEA)报告显示,全球AI数据中心的电力需求将在未来...