
衡宇 发自 凹非寺
量子位 | 公众号 QbitAI
你敢念念,微软堆成山的GPU,只可在库房里吃灰?
在最新播客节目BG2中,微软CEO纳德拉亲口承认公司正面对一个前所未有的无语:微软手上有成堆的GPU,却因为缺电、缺空间,只可闲置在那处。
但最大的问题不是算力多余的近况——
最大的问题不是芯片供应,而是供电才气,以及咱们能否弥散快地建成接续电源的数据中心。
要是作念不到,你就会有一堆芯片只可躺在仓库。微软缺电,无数GPU闲置在微软里面,无数英伟达AI芯片被闲置。
不是因为算力一经弥散或者“多余”了,而是面前的基础步调不及以守旧这些芯片运行起来。
一是因为辛劳电力。
二是因为穷乏不错立马插足使用的数据中心——也即是纳德拉口中的“warm shells”,即一经建好、具备弥散供电与冷却才气的机房外壳。
这并不是他第一次对外谈及微软的纷扰。
前年,当被问及微软在2024年是否仍然受到英伟达芯片的供应限制时,纳德拉是这样说的:
咱们受到的是电力限制,而不是芯片供应限制。

到了本年,这似乎成为了通盘大模子巨头们共同面对的问题。
奥特曼也在同期计议中提到,行业面对的总体挑战不单是是算力问题,更多还有动力和基础步调的匹配问题。
而奥特曼对这个问题的明锐,比多数科技公司来得早。
以前两年,他不绝投资了裂变动力公司Oklo、聚变动力公司Helion,以及太阳能创业公司Exowatt。
只不外,这些新式动力本领离大规模商用还很远,短期内,数据中心仍得依赖燃气和可再生动力搀杂供电。
缺电除外:囤芯片也不再安全以前五年,好意思国举座电力需求弧线短暂被拉高。
跟着AI和云计较带动的数据中心配置进入岑岭期,用电需求启动以超出预期的速率增长,远远越过公用劳动公司正本的新增发电目的。
供给端响应昭彰滞后。
传统电厂从立项到并网经常需要数年周期,而AI产业延长的节拍以季度计较。于是,为了追上算力延长的设施,越来越多的数据中心开发商不得不我方为AI发电。
因此,越来越多的数据中心开发商采用袭取所谓的“计量表后”(behind-the-meter)供电样式——平直将电力接入数据中心,绕过大家电网,以弥补供能缺口。
尽管如斯,数据中心、电力与冷却系统的配置节拍照旧远远跟不上履行需求。
光伏太阳能被视为面前配置周期最短、部署最天真的动力体式,但在时刻维度上,它与数据中心简直同步——从选址、施工到并网动辄数月以致一年。
而AI需求的变化时常只需要一次模子更新或一次居品发布。
举个具体点的例子来说吧:当算力弧线每季度刷新记载时,动力系统还在审批表格上打转(无奈摊手.jpg)。
部分业内东谈主士牵挂,要是改日AI需求增速放缓,面前为了守旧AI算力而大规模投资的电厂和储能技俩可能会出现闲置风险。
但奥特曼并不这样看。
奥特曼觉得,AI的用电需求不行能回落,只会抓续增长。也即是说,更高效、更低廉的算力,只会引发出更多应用场景。
如斯来看,奥特曼似乎是一个杰文斯悖论信徒。
该悖论觉得,资源的更高效诳骗将导致更大规模的使用,从而增多举座需求。
要是算力老本未来着落100倍,用量会增长期超100倍。越低廉的计较力,只会带来更大的总体需求。
为此,奥特曼命令好意思国政府每年增多100吉瓦发电才气,并将其视为“AI计策钞票”。
与此同期,算力端的企业也在再行疏导策略。
纳德拉明确表态,微软不会再囤积单一代GPU。
根由很履行——
一台腾贵的英伟达芯片,要是暂时插不上电,两、三年后又被新架构取代,那等于在折旧周期内就提前贬值。
而把柄微软训戒,数据中心斥地的折旧周期经常是六年,盲目囤货不仅占用现款,还会酿成资源销耗。
网友建议:不如开发点能耗镌汰的芯片?自20世纪90年代末以来,好意思国电力出产一直踯躅在约约4万亿千瓦时/年。
但这个天下变化太快了:
东谈主口增长了20%,部分物理电网老化,新的城市生存和科技进取齐对电力需要建议了不停增长的需求。
如上所述,GPU出产不错按季度迭代,但电力系统、数据中心冷却与输电收集的配置,却所以年为单元的工程。
AI产业算力增长能否延续,要津已不在芯片产量,而在动力与基础步调是否能同步延长。
这也让行业眼神再行转朝上游芯片厂商。
以前,英伟达等公司拼的是峰值性能:算力越强、速率越快越好。
但当限制从“算力短缺”变成“电力短缺”后,表率是否有可能启动回转?
reddit磋商计议帖中,有网友抒发了我方的建议:
要是你是受电力限制而不是芯片限制,你会念念要每责任最节能的芯片,对吧?
要是你一经被能耗闲置,而英伟达推出一款速率晋升1.2倍但能耗镌汰25%的芯片,那将相等有诱骗力。One More Thing
周一,微软在上通知,磋商部门一经批准它向阿联酋运送英伟达芯片,用来配置检修AI模子所需的数据中心。
微软还示意,改日四年将在海湾国度投资80亿好意思元用于数据中心、云计较和其他东谈主工智能技俩。
中东地区资金丰厚,动力丰富,外媒分析,这笔交往也象征着AI基础步调正在从硅谷迁往动力充足的新兴商场。
大要去了那里,微软买下的英伟达GPU不错不再吃灰吧……
参考指点:
[1]https://www.reddit.com/r/hardware/comments/1onawsk/microsoft_ceo_says_the_company_doesnt_have_enough/[2]https://x.com/rohanpaul_ai/status/1985462248349766076[3]https://finance.yahoo.com/news/microsoft-gets-u-approval-export-134300053.html— 完 —
量子位 QbitAI · 头条号
饶恕咱们九游娱乐(中国)官方网站-登录入口,第一时刻获知前沿科技动态