国产日韩欧美在线_日韩精品中文在线_成人图片综合在线网站_911亚洲清品青草衣衣麻豆_综合国产日本影视_中文字幕日韓视频_亚洲av无码成人h动漫无遮_k频道欧美成人午夜视频综合_欧美日韩一中文字幕精品_无码?V不卡在线看DVD

快捷導(dǎo)航

“AI一下”的耗電量,夠你吹多久空調(diào)?

2024-4-23 10:55| 發(fā)布者: admin| 查看: 223| 評(píng)論: 0
摘要: 討論 AI 耗電高,不是斤斤計(jì)較,這背后是不折不扣的能源問(wèn)題。根據(jù)國(guó)際能源署(IEA)發(fā)布的《電力 2024——到2026年的分析與預(yù)測(cè)》,2022年數(shù)據(jù)中心、人工智能(AI)和加密貨幣行業(yè)的全球電力消耗占比為2%,預(yù)計(jì)到20 ...

“AI一下”的耗電量,夠你吹多久空調(diào)?

“AI一下”的耗電量,夠你吹多久空調(diào)?

“AI一下”的耗電量,夠你吹多久空調(diào)?

“AI一下”的耗電量,夠你吹多久空調(diào)?

“AI一下”的耗電量,夠你吹多久空調(diào)?

“AI一下”的耗電量,夠你吹多久空調(diào)?

“AI一下”的耗電量,夠你吹多久空調(diào)?


討論 AI 耗電高,不是斤斤計(jì)較,這背后是不折不扣的能源問(wèn)題。

根據(jù)國(guó)際能源署(IEA)發(fā)布的《電力 2024——到2026年的分析與預(yù)測(cè)》,2022年數(shù)據(jù)中心、人工智能(AI)和加密貨幣行業(yè)的全球電力消耗占比為2%,預(yù)計(jì)到2026年將翻倍至1000太瓦時(shí)以上。

中科院計(jì)算所助理研究員程大寧接受澎湃新聞采訪時(shí)表示,根據(jù)調(diào)研,未來(lái)算力會(huì)向著更大規(guī)模、更快互聯(lián)、更小化發(fā)展。這有兩方面的原因:一方面是現(xiàn)在模型的規(guī)模越來(lái)越大,需要更大算力和更大規(guī)模的顯存才能支撐,另一方面,邊端設(shè)備的智能化需要更低功耗,更快速度的部署,邊端設(shè)備數(shù)量多,因此需求量也很大。而智能化設(shè)備已經(jīng)成為生活中重要的一部分,未來(lái)推理會(huì)是更大的算力需求點(diǎn)。

程大寧還提到,從業(yè)內(nèi)數(shù)據(jù)來(lái)看,國(guó)內(nèi)一線大模型的運(yùn)營(yíng)成本中,電費(fèi)占到了總成本的 50% 以上。

AI 如果一直這么耗電,普通人什么時(shí)候才能用上便宜的 AI 呢?要知道,GPT-4 的月費(fèi)足足要 20 美元,文心一言的單月購(gòu)買(mǎi)價(jià)格也要約 60 元。更多的 AI 工具開(kāi)始選擇按使用量付費(fèi)。有報(bào)道稱,因 AI 繪畫(huà)而揚(yáng)名的初創(chuàng)公司 Stable Diffusion 已無(wú)力負(fù)擔(dān)天價(jià)算力賬單。

從總量上看,AI 耗電量不斷攀升無(wú)法避免,但科技公司也在想辦法減少 AI 這只“吃電怪獸”帶來(lái)的影響。

一條路是減小它的胃口,可以通過(guò)優(yōu)化算法提高效率,給模型做量化、剪枝都是減少計(jì)算量的方法,因此也能減少電量消耗。另一方面,科技公司也在下注新型能源,OpenAI 的CEO,Sam Altman 就投資了一家核聚變初創(chuàng)公司。英偉達(dá) CEO 黃仁勛則更樂(lè)觀,他認(rèn)為如果算力進(jìn)步足夠快,就不需要太過(guò)在意能耗。

回收熱能的策略也很重要。根據(jù)上海交通大學(xué)算力中心的估計(jì),回收熱能可以減少算力中心碳排放4850噸/年,其中余熱回收占950噸。優(yōu)刻得烏蘭察布數(shù)據(jù)中心的使用案例顯示,利用算力熱能功能可以節(jié)約50%左右的電費(fèi)成本。

常言道,出來(lái)混總是要還的。AI 吃了這么多電修煉自己,除了吐出熱能,還能不能還我們一個(gè)新能源的未來(lái)呢?時(shí)間會(huì)告訴我們答案。

至少現(xiàn)在,在找 AI 閑聊前,得先掂量一下它的夸張耗電量。

參考資料:

《藏在 AI 背后的“吃電狂魔”》 - 雪豹財(cái)經(jīng)社:

https://www.36kr.com/p/2725525783520512

《1 次訓(xùn)練用電 2.4 億度,AI 為什么那么耗電?》 - 返樸:

https://mp.weixin.qq.com/s/VPnzuzUWSOw2coA0uz7ETQ

《一句黃仁勛沒(méi)說(shuō)的話,火了》 - 36 氪:

https://36kr.com/p/2687714777493126

《算力的盡頭其實(shí)是電力?》 - 騰訊研究院:

https://m.huxiu.com/article/2861503.html

鮮花

握手

雷人

路過(guò)

雞蛋

關(guān)注我們:東遠(yuǎn)物聯(lián)

抖音

微信咨詢

咨詢電話:

199-2833-9866

D-Think | 廣州東遠(yuǎn)智能科技有限公司

地址:廣州市白云區(qū)北太路1633號(hào)廣州民營(yíng)科技園科創(chuàng)中心2棟16樓

電話:+86 020-87227952 Email:iot@D-Think.cn

Copyright  ©2020  東遠(yuǎn)科技  粵ICP備2024254589號(hào)

免責(zé)申明:部分圖文表述來(lái)自于網(wǎng)絡(luò),如有侵權(quán)請(qǐng)聯(lián)系作者刪除!