2016-2022 All Rights Reserved.平安財經(jīng)網(wǎng).復制必究 聯(lián)系QQ 備案號:
本站除標明“本站原創(chuàng)”外所有信息均轉(zhuǎn)載自互聯(lián)網(wǎng) 版權歸原作者所有。
郵箱:toplearningteam#gmail.com (請將#換成@)
算力需求旺盛的當下,有些黃牛手中的芯片甚至開出一張155萬的高價。在上個月阿里云峰會時,會場里阿里云熱火朝天將通義千問發(fā)布,而會場外中年大哥則舉著二維碼,讓眾人掃聲稱在掃描過后可以直接和ChatGPT連接。
大模型如今確實火熱,但是在騰訊阿里這些早就進入到云服務這一行業(yè)當中的大廠,已經(jīng)將大模型是否存在這一個問題作出了解決,而一些進入到這個行業(yè)當中的玩家,只能夠先做算法,再對于自身硬件底座做出考慮,
硬件底座的基石芯片是非常難去買到的,AIGC時代不僅是比拼算法同時在算力時間也是要比拼的,在數(shù)據(jù)方面顯示英偉達A100顯卡在處理能力方面來看,GPT-3.5的大模型一共需要2萬塊的CPU對訓練數(shù)據(jù)作出處理。
根據(jù)官方公布的原因, A100芯片已經(jīng)無法在官方渠道購買了,英偉達專門針對中國客戶推出了H800的芯片,在綜合使用,效率方面只達到因為達A100芯片的60%,在價格上比較貴,同時購買時還需要排隊,大廠資金較為充裕的情況下,一般會以量大占據(jù)優(yōu)勢,處于創(chuàng)業(yè)時期的公司就需要在較長的名單當中等待芯片。
大廠對于H800以及A100的芯片是不缺乏的,阿里云的AI專家也提到,在阿里云中A100芯片就達到了上萬塊,整體的芯片一共可以達到10萬片,集團整個體量也是阿里云芯片數(shù)量的5倍,騰訊利用H800加速卡所打造出來的大模型算力群體集體的規(guī)模甚至達到了數(shù)千臺服務器,巨頭們還在繼續(xù)對芯片作出采購。
大模型之間還沒有真正開展戰(zhàn)斗,已經(jīng)成為了互聯(lián)網(wǎng)科技巨頭之間互相的游戲,而巨頭之外的創(chuàng)業(yè)者,也面臨著想要去做大模型但卻沒有算力。
2016-2022 All Rights Reserved.平安財經(jīng)網(wǎng).復制必究 聯(lián)系QQ 備案號:
本站除標明“本站原創(chuàng)”外所有信息均轉(zhuǎn)載自互聯(lián)網(wǎng) 版權歸原作者所有。
郵箱:toplearningteam#gmail.com (請將#換成@)