研究人員將自動文本生成器隱藏起來以防止誤用

研究人員本周宣布，他們已經(jīng)開發(fā)出一種使用人工智能的自動文本生成器，這是非常棒的——非常棒，目前還不公開細(xì)節(jié)。

OpenAI開發(fā)的軟件可以用來生成新聞故事、產(chǎn)品評論和其他類型的文章，這些文章可能比以前由計算機(jī)開發(fā)的任何東西都更真實。

由特斯拉(Tesla)的埃隆·馬斯克(Elon Musk)、亞馬遜(Amazon)和微軟(Microsoft)支持的研究中心OpenAI表示，這款新軟件“在許多語言建?；鶞?zhǔn)上都實現(xiàn)了最先進(jìn)的性能”，包括總結(jié)和翻譯。

但它不會向公眾公布這個項目。

OpenAI的研究人員在周四的一篇博文中說:“由于我們擔(dān)心這項技術(shù)的惡意應(yīng)用，我們不會發(fā)布經(jīng)過訓(xùn)練的模型。”

這一消息表明，在開發(fā)計算機(jī)生成的文本方面可能會取得突破，這些文本可能是可信的，但也有潛在的危險。

研究人員表示，有很多方法可以將該程序用于邪惡的目的，包括生成假新聞、在網(wǎng)上假冒他人，以及在社交媒體上自動生成假內(nèi)容。

在一個例子中，程序被輸入了一段關(guān)于“一群獨(dú)角獸生活在一個偏遠(yuǎn)的，以前從未被探索過的山谷中，在安第斯山脈”的內(nèi)容，并寫了一篇300字的新聞報道。

研究人員寫道:“廣大公眾將需要對他們在網(wǎng)上找到的文本更加懷疑，就像‘深度造假’現(xiàn)象要求人們對圖片更加懷疑一樣?！鄙疃仍旒僦傅氖侨斯ぶ悄懿倏v的視頻，這種視頻的數(shù)量一直在上升。

研究人員表示，他們的這種名為GPT-2的模型“比其他語言模型表現(xiàn)更好”，這些語言模型在不需要任何專門訓(xùn)練的情況下，就能完成維基百科條目、新聞或書籍等任務(wù)。

OpenAI新聞是最新的展示計算機(jī)如何獲得語言能力的新聞，此前IBM的Project Debater在與專業(yè)辯論冠軍的公開比賽中表現(xiàn)出色。