眾所周知,,算法,、算力和數(shù)據(jù)是共同制約AI發(fā)展的三個(gè)關(guān)鍵要素,,這也是ChatGPT完美運(yùn)行的三個(gè)條件,。
其中,,算力是ChatGPT運(yùn)行的關(guān)鍵所在,。而一個(gè)ChatGPT應(yīng)用的算力消耗卻讓人瞠目結(jié)舌,。
其大模型GPT經(jīng)歷了三次迭代,,GPT,、GPT-2和GPT-3(當(dāng)前開(kāi)放的版本為GPT-3.5)的參數(shù)量從1.17億增加到1750億,預(yù)訓(xùn)練數(shù)據(jù)量從5GB增加到45TB,,其中GPT-3訓(xùn)練單次的成本就已經(jīng)高達(dá)460萬(wàn)美元,。
最新的GPT3.5在訓(xùn)練中使用了微軟專門(mén)建設(shè)的AI計(jì)算系統(tǒng),由1萬(wàn)個(gè)V100 GPU組成的高性能網(wǎng)絡(luò)集群,,總算力消耗約3640PF-days,,即假如每秒計(jì)算一千萬(wàn)億次,需要計(jì)算3640天,。
如何理解這樣的算力消耗呢,?可以簡(jiǎn)單做一個(gè)分析——我國(guó)近期正大力新建數(shù)據(jù)中心, 以其中總投資30.2億,,算力500P的數(shù)據(jù)中心項(xiàng)目來(lái)說(shuō),,要想支撐起ChatGPT的運(yùn)行,至少要7-8個(gè)此量級(jí)的數(shù)據(jù)中心運(yùn)行一整天,。
事實(shí)上,,僅2012年2019年,短短七年,,人類對(duì)AI算力的需求就增長(zhǎng)了30萬(wàn)倍,。平均每100天就會(huì)翻倍,遠(yuǎn)超摩爾定律,。
![]()
與此同時(shí),,AI算力的實(shí)際增長(zhǎng)卻有限,需求和供給之間形成了一個(gè)巨大的鴻溝,。
準(zhǔn)華為輪值主席孟晚舟曾在一次公開(kāi)演講時(shí)就表示,,現(xiàn)在的算力還遠(yuǎn)遠(yuǎn)不能滿足未來(lái)的需求,算力必然是世界科技競(jìng)爭(zhēng)的焦點(diǎn)之一,。
另外,,GPU或CPU+FPGA是ChatGPT算力的硬件支撐,該應(yīng)用對(duì)于高端芯片的需求增加會(huì)拉動(dòng)芯片均價(jià),,量?jī)r(jià)齊升將導(dǎo)致芯片需求暴漲,。
據(jù)了解,采購(gòu)一片英偉達(dá)頂級(jí)GPU成本為8萬(wàn)元,,GPU服務(wù)器成本通常超過(guò)40萬(wàn)元,。對(duì)于ChatGPT而言,支撐其算力基礎(chǔ)設(shè)施至少需要上萬(wàn)顆英偉達(dá)GPU A100,,單采購(gòu)GPU的成本就近億元,。
而ChatGPT越火,對(duì)算力及其關(guān)聯(lián)產(chǎn)業(yè)的需求便越大。
中國(guó)信息通信研究院測(cè)算,,截至2021年底,,中國(guó)算力核心產(chǎn)業(yè)規(guī)模超過(guò)1.5萬(wàn)億元,關(guān)聯(lián)產(chǎn)業(yè)規(guī)模超過(guò)8萬(wàn)億元,。
這是一塊巨大的蛋糕,。并且隨著AI產(chǎn)品應(yīng)用的逐漸滲透,這塊蛋糕將越來(lái)越大,。
![]()
除了算力外,,ChatGPT引發(fā)萬(wàn)眾矚目的還包括在C端的破冰。
一直以來(lái),,AI產(chǎn)品的落地與盈利基本都靠B,、G兩端支撐,在C端雖然也有不少試水,,但都沒(méi)有引發(fā)太大的反響,,幾乎沒(méi)有讓大部分人愿意買單的項(xiàng)目。
如果ChatGPT真的能成為一款現(xiàn)象級(jí)產(chǎn)品,,將具有劃時(shí)代意義,。
不妨想想,在移動(dòng)互聯(lián)網(wǎng)時(shí)代,,微信讓騰訊成為了時(shí)代的王者,,月活躍用戶數(shù)量達(dá)12.88億,;依靠抖音,,字節(jié)跳動(dòng)不到十年就躍升為中國(guó)最著名的互聯(lián)網(wǎng)企業(yè)之一;而拼多多市值已經(jīng)是百度的3倍……
這背后不僅是一場(chǎng)產(chǎn)業(yè)革命,,更是數(shù)以萬(wàn)億計(jì)財(cái)富的誕生,。如今,類似的連鎖反應(yīng)也開(kāi)始在AI領(lǐng)域顯現(xiàn),。 |