"科技巨頭帶頭呼吁暫停AI開發(fā)？生命未來研究所發(fā)起公開信引發(fā)熱議"

未來生命研究所（Future of Life Institute）在3月29日公布一封公開信，呼吁所有AI實驗室立即暫停訓(xùn)練比GPT-4更強大的AI系統(tǒng)至少6個月。這封信得到了超過1000人的簽署，其中包括馬斯克等知名科技圈人士以及圖靈獎得主約書亞·本吉奧、作家兼教授加里·馬庫斯、《人工智能：現(xiàn)代方法》作者斯圖爾特·羅素和蘋果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克等。

這封公開信的出發(fā)點是AI威脅論。公開信表示，大量研究表明，具有與人類競爭智能的AI系統(tǒng)可能對社會和人類構(gòu)成深遠(yuǎn)的風(fēng)險，并得到了頂級AI實驗室的承認(rèn)。最近幾個月，全球的AI實驗室已經(jīng)完全失控了，它們瘋狂地開展AI競賽，來開發(fā)和部署更強大的AI，而沒有任何人可以理解、預(yù)測、控制這些AI，甚至它們的創(chuàng)造者也不能做到這一點。

公開信呼吁暫停比GPT-4更強大的AI系統(tǒng)訓(xùn)練至少6個月，并指出這種暫停應(yīng)該是公開的和可驗證的，并且包括所有關(guān)鍵參與者。如果不能迅速實施這種暫停，政府應(yīng)該介入并實行暫停。這并不意味著總體上暫停AI開發(fā)，只是緊急從奔向不可預(yù)測的大型黑盒模型的危險競賽中收回腳步。

這封信還提出了一些建議，開發(fā)者必須與政策制定者合作，大幅加快開發(fā)強大的AI管理系統(tǒng)，該系統(tǒng)至少應(yīng)該包括專門負(fù)責(zé)監(jiān)管AI的機構(gòu)、出處和水印系統(tǒng)、強大的審計和認(rèn)證系統(tǒng)以及在AI造成傷害后，明確誰該承擔(dān)責(zé)任。

未來生命研究所是一個非營利組織，成立于2014年3月，其主旨在于引導(dǎo)變革性技術(shù)造福生命，遠(yuǎn)離極端大規(guī)模風(fēng)險，關(guān)注包括AI、生物技術(shù)、核武器、氣候變化在內(nèi)的多個重大議題。其創(chuàng)始團隊主要是高校學(xué)者、學(xué)生，包括麻省理工學(xué)院宇宙學(xué)家馬克斯·泰格馬克和Skype聯(lián)合創(chuàng)始人讓·塔林等，他們的共同目標(biāo)是探索未來技術(shù)的發(fā)展方向，并提供實用的解決方案來應(yīng)對可能出現(xiàn)的挑戰(zhàn)。該組織還與其他非營利組織和政府機構(gòu)合作，共同致力于促進可持續(xù)發(fā)展和社會公正。

在AI領(lǐng)域，生命未來研究所的目標(biāo)是通過開展研究和倡議來推動AI的安全和道德發(fā)展。他們認(rèn)為，人工智能的發(fā)展可能會對社會和人類產(chǎn)生深遠(yuǎn)的影響，因此需要確保AI的發(fā)展是安全的、道德的和可持續(xù)的。

生命未來研究所的倡議書是為了呼吁AI領(lǐng)域的開發(fā)者和政策制定者共同努力，以確保AI的發(fā)展符合道德標(biāo)準(zhǔn)，能夠為人類帶來積極的影響。這封公開信的發(fā)布引起了廣泛關(guān)注，也引發(fā)了一些爭議和討論。無論如何，它都為人們提供了思考和討論AI發(fā)展的機會，以及如何確保AI的發(fā)展符合人類的利益。