亚欧日韩AV在线|九九视频日韩视频|蜜臀无码久久AV|国产三区二区一区|最新黄网在线观看|丁香伊人中文字幕|久草精品视频推荐|国产就女精品不卡|国产麻豆国语对白|久久久久久久啊爽

人工智能芯片,太耗電了

日期:2024-07-17 16:38:43 作者:kunshan 瀏覽量:93

生成式人工智能將消耗全球更大一部分電力,以滿足運(yùn)行應(yīng)用程序所需的大量硬件需求。半導(dǎo)體研究公司 TechInsights 在上個(gè)月的一份研究報(bào)告中表示:“未來五年,人工智能芯片將占全球用電量的 1.5%,占全球能源的很大一部分?!?/p>


TechInsights 對(duì) 2025 年至 2029 年期間全球電力消耗總量為 153,000 TWh 進(jìn)行了基準(zhǔn)測量,數(shù)據(jù)來源于美國能源信息署。


該研究公司估計(jì),人工智能加速器將在同一時(shí)間段內(nèi)消耗全球 2318 TWh 的電力,占全球電力消耗的 1.5%。


該測量基于每塊 GPU 使用 700W 的功率,這是 Nvidia 旗艦 Hopper GPU 的功耗。Nvidia 即將推出的 GPU 名為 Blackwell,速度更快,但功耗為 1,200W。


TechInsights 的假設(shè)僅包括芯片消耗的電量,不包括用于生成 AI 的存儲(chǔ)、內(nèi)存、網(wǎng)絡(luò)和其他組件的測量。


TechInsights 分析師歐文·羅杰斯 (Owen Rogers) 在一份研究報(bào)告中表示:“考慮到對(duì) GPU 容量的巨大需求,以及需要投入這些昂貴資產(chǎn)才能帶來回報(bào),如此高的利用率是可行的?!?/p>


綠色還是非綠色?


麥肯錫人工智能調(diào)查顯示,65% 的受訪者打算采用生成式人工智能。


為了滿足需求,云提供商和超大規(guī)模企業(yè)正在投資數(shù)十億美元來擴(kuò)大 GPU 容量。微軟依靠 Nvidia GPU 來運(yùn)行其 AI 基礎(chǔ)設(shè)施,而 Meta 將擁有一個(gè)相當(dāng)于“近 600,000 個(gè) H100”GPU 的計(jì)算環(huán)境,該公司表示。


據(jù) TechInsights 稱,2023 年 Nvidia 的 GPU 出貨量約為 376 萬塊,高于 2022 年的約 260 萬塊。


去年,Gartner 對(duì)電力消耗做出了更為激進(jìn)的預(yù)測,稱人工智能“可能消耗全球 3.5% 的電力”。Gartner 的方法尚不明確,但可能包括網(wǎng)絡(luò)、存儲(chǔ)和內(nèi)存。


人工智能競賽的特點(diǎn)是企業(yè)提供最快的基礎(chǔ)設(shè)施和更好的結(jié)果。在商業(yè)領(lǐng)域?qū)嵤┤斯ぶ悄艿臒岢币呀?jīng)擾亂了長期以來的企業(yè)可持續(xù)發(fā)展計(jì)劃。


微軟、谷歌和亞馬遜正在斥資數(shù)十億美元建設(shè)配備 GPU 和 AI 芯片的大型數(shù)據(jù)中心來訓(xùn)練和服務(wù)更大的模型,這增加了電力負(fù)擔(dān)。


成本挑戰(zhàn)


羅杰斯在研究報(bào)告中指出,雖然服務(wù)器的采購價(jià)格為2萬美元,但企業(yè)需要考慮不斷增長的電力成本以及電網(wǎng)面臨的挑戰(zhàn)。


數(shù)據(jù)中心的設(shè)計(jì)也需要滿足人工智能的電力需求。這一需求可能取決于電網(wǎng)容量和備用電源容量的可用性。


能源供應(yīng)商也有責(zé)任為人工智能時(shí)代做好準(zhǔn)備,建立電力基礎(chǔ)設(shè)施,包括發(fā)電站、太陽能發(fā)電場和輸電線路。


“如果需求無法滿足,能源供應(yīng)商將采取市場化方式管理產(chǎn)能——即提高價(jià)格以減少消耗——而不是削減產(chǎn)能。同樣,這可能會(huì)給人工智能技術(shù)的用戶帶來成本影響,”羅杰斯說。


美國政府的首要目標(biāo)是到 2035 年實(shí)現(xiàn) 100% 清潔能源,這將減輕電網(wǎng)負(fù)擔(dān)。這也將為更多 AI 數(shù)據(jù)中心打開大門。


能源的有效利用


人工智能消耗的電力反映了加密貨幣挖礦給電網(wǎng)帶來負(fù)擔(dān)的早期趨勢。根據(jù)美國能源信息署2 月份發(fā)布的一份報(bào)告,加密貨幣挖礦約占美國電力消耗的 2.3%。


然而,能源行業(yè)觀察人士一致認(rèn)為,與比特幣挖礦相比,人工智能可以更高效地利用能源。


Nvidia 的 AI 重點(diǎn)還在于高效能源利用。為了降低功耗,Nvidia 的 GPU 采用了自己的芯片技術(shù)。該公司正在將 Hopper 上的空氣冷卻改為液體冷卻。


Nvidia 超大規(guī)模和 HPC 計(jì)算業(yè)務(wù)副總裁兼總經(jīng)理 Ian Buck 在上個(gè)月的一次投資者活動(dòng)中表示:“這里的機(jī)會(huì)是幫助他們通過固定兆瓦數(shù)據(jù)中心以盡可能低的成本獲得最大性能。”


HPC 提供商、AI 和可持續(xù)性


最近舉行的 ISC 24 超級(jí)計(jì)算會(huì)議的小組成員嘲笑 Nvidia,聲稱其 1000 瓦 GPU 是“可持續(xù)的”。


政府實(shí)驗(yàn)室還表示,過去 GPU 和直接液體冷卻比 CPU 提供了更好的性能擴(kuò)展。


勞倫斯利弗莫爾國家實(shí)驗(yàn)室正在建造即將問世的 2 百億億次浮點(diǎn)超級(jí)計(jì)算機(jī) El Capitan,它將冷卻壓力增加到 28,000 噸,另外還增加了 18,000 噸,并將當(dāng)前和未來系統(tǒng)的電源提高到 85 兆瓦。


LLNL 首席技術(shù)官 Bronis de Supinski 在分組討論會(huì)上表示:“El Capitan 核電站的發(fā)電量將低于 40 兆瓦,大約為 30 兆瓦,但這已經(jīng)是很大的電能了?!?/p>


他承認(rèn) El Capitan 超級(jí)計(jì)算機(jī)可能不被認(rèn)為是環(huán)保的,但也應(yīng)該關(guān)注在性能和功率范圍內(nèi)取得的成果。例如,如果超級(jí)計(jì)算機(jī)解決了氣候問題,那么它所消耗的能量可能是值得的。


“一臺(tái) 30 兆瓦的超級(jí)計(jì)算機(jī)?我不會(huì)告訴你這是一種可持續(xù)資源,但它可以大大解決我們想要解決的社會(huì)問題,”德蘇賓斯基說。


實(shí)驗(yàn)室也在轉(zhuǎn)向可再生能源和液體冷卻。例如,液體冷卻“可節(jié)省約 50% 的冷卻能源”,LRZ 主席 Dieter Kranzlmüller 在 ISC 24 會(huì)議上表示。


可持續(xù)計(jì)算環(huán)境也在考慮碳補(bǔ)償、捕獲和再利用廢熱、以及再利用材料。


HPC 過去驅(qū)動(dòng)未來


目前,人們正在努力提高超級(jí)計(jì)算機(jī)的能源效率,以便更好地利用人工智能處理所消耗的每一瓦電能。


在上個(gè)月的 HPE Discover 大會(huì)上,首席執(zhí)行官 Antonio Neri 表示,公司正在將 Frontier 和 El Capitan 中使用的節(jié)能技術(shù)移植到搭載 Nvidia GPU 的 AI 系統(tǒng)中。


“HPE 擁有全球最大的水冷制造能力之一。為什么?因?yàn)槲覀儽仨殲槌?jí)計(jì)算機(jī)制造它,”Neri 說。


同樣登臺(tái)的 Nvidia 首席執(zhí)行官黃仁勛打趣道:“液體冷卻的未來將帶來更好的性能、更低的基礎(chǔ)設(shè)施成本和更低的運(yùn)營成本?!?/p>


卸載AI


消費(fèi)設(shè)備制造商正在大力推廣配備神經(jīng)芯片的 PC 和移動(dòng)設(shè)備,以實(shí)現(xiàn)設(shè)備上的 AI。神經(jīng)芯片可以在本地運(yùn)行 AI 模型,從而減輕云端 GPU 的壓力。


蘋果提供了其設(shè)備和云端 AI 戰(zhàn)略的完整愿景——如果 iPhone 或 Mac 確定某項(xiàng) AI 任務(wù)無法在設(shè)備上完成,它會(huì)將查詢重新路由到蘋果數(shù)據(jù)中心的云服務(wù)器。


蘋果用戶還可以選擇在設(shè)備上運(yùn)行 AI 還是通過云端運(yùn)行 AI。


微軟鼓勵(lì)在 Windows 設(shè)備中使用 AI 芯片。高通的 AI Hub 允許用戶運(yùn)行基準(zhǔn)測試,以了解 AI 模型在設(shè)備上的運(yùn)行情況。這讓用戶可以決定是在設(shè)備上還是在云端運(yùn)行推理。


然而,目前還沒有人工智能電腦的殺手級(jí)應(yīng)用能夠提供電腦將人工智能壓力轉(zhuǎn)移到云端 GPU 上的切實(shí)例子。


注:本文選自半導(dǎo)體行業(yè)圈,版權(quán)原作者所有,如侵犯你的權(quán)益,我們將第一時(shí)間刪除。

行業(yè)資訊