打造一個(gè)AI大模型 到底需要多少算力？

AI已經(jīng)在全球引發(fā)一股熱潮，讓人們不可忽視的潛在最大的阻力就是算力不足，算力屬于AI發(fā)展過(guò)程當(dāng)中最基本的設(shè)施，打造一個(gè)AI大模型，是需要對(duì)數(shù)據(jù)集中重復(fù)的處理，也就意味著算力的大小直接代表數(shù)據(jù)能力強(qiáng)與弱。從2012年開(kāi)始，全球AI訓(xùn)練所需要的指數(shù)處于增長(zhǎng)趨勢(shì)，3~4個(gè)月都會(huì)平均分成一倍，到現(xiàn)在已經(jīng)擴(kuò)大30萬(wàn)倍，隨著華為、360、百度等大型公司加入到AI領(lǐng)域之后，國(guó)內(nèi)對(duì)于算力的需求也與日俱增，結(jié)合OpenAI研發(fā)的相關(guān)經(jīng)驗(yàn)加上我國(guó)企業(yè)大型規(guī)模研發(fā)的進(jìn)度來(lái)分析，現(xiàn)在我國(guó)對(duì)AI大型訓(xùn)練以及推理階段的算力需求都進(jìn)行相關(guān)成本的測(cè)算。

算力需求

目前根據(jù)商湯招股說(shuō)明書的數(shù)據(jù)明確的顯示像GPT-3大模型需要大概訓(xùn)練355個(gè)GPU，由于現(xiàn)在各家公司都在進(jìn)行AI大型模型的發(fā)展，會(huì)認(rèn)為科技公司訓(xùn)練的AI大型模型，時(shí)間大概為一個(gè)月，訓(xùn)練AI大型模型當(dāng)中的AI加速卡數(shù)量會(huì)高達(dá)4260個(gè)，目前各大科技企業(yè)競(jìng)爭(zhēng)，關(guān)鍵就是AI模型，因此在國(guó)內(nèi)，會(huì)有部分人意愿的來(lái)開(kāi)發(fā)出AI模型相關(guān)的公司， AI大型模型的訓(xùn)練在急劇的上升當(dāng)中，AI的加速卡需求量也非常的大。英偉達(dá)官方數(shù)據(jù)的顯示 A100對(duì)于AI模型可以實(shí)現(xiàn)每秒推理高達(dá)1757次，假設(shè)單片A100在AI模型每秒中可以產(chǎn)生1757個(gè)單詞。

樂(lè)觀假設(shè)

2023年數(shù)字安全與發(fā)展高峰論壇在3月29日開(kāi)啟的時(shí)候，會(huì)議上明確的演示了360大型語(yǔ)言在瀏覽器上的應(yīng)用，部分的分析師認(rèn)為，像內(nèi)容生產(chǎn)類型的應(yīng)用，已經(jīng)在各個(gè)科技開(kāi)發(fā)商當(dāng)中對(duì)AI模型有著積極探索的方向，針對(duì)不同的情況，分析師給予不一樣的假設(shè)，因此在樂(lè)觀的情況下，現(xiàn)在我國(guó)AI大型模型的訓(xùn)練和推理階段有可能產(chǎn)生1.1萬(wàn)臺(tái)或者是3.8萬(wàn)臺(tái)的高端AI服務(wù)器的算力需求。