OpenAI發(fā)布了強(qiáng)大的文本生成器

人工智能實(shí)驗(yàn)室OpenAI宣布，他們正在開發(fā)一種用于自然語言處理的強(qiáng)大的新型神經(jīng)網(wǎng)絡(luò)，并將有限地向公眾發(fā)布。

該實(shí)驗(yàn)室由埃隆·馬斯克(Elon Musk)創(chuàng)建，最近得到了微軟(Microsoft) 10億美元的資助。該實(shí)驗(yàn)室已經(jīng)設(shè)計(jì)出了文本生成器，可以生成與人類書寫的文本幾乎沒有區(qū)別的可讀文本。

OpenAI的機(jī)器學(xué)習(xí)方法從網(wǎng)絡(luò)上抓取大量數(shù)據(jù)，并分析其統(tǒng)計(jì)模式，使其能夠?qū)嶋H預(yù)測(cè)接下來可能會(huì)出現(xiàn)的字母或單詞。

當(dāng)用戶輸入一個(gè)單詞、短語或更長的文本片段到生成器時(shí)，它會(huì)以令人信服的類似人類的文本擴(kuò)展這些單詞。這些結(jié)果可以用來創(chuàng)建故事，解決閱讀理解練習(xí)，回答問題，總結(jié)論文，甚至可以下棋，解決數(shù)學(xué)問題，或者創(chuàng)建基于文本的地下城場(chǎng)景。

這個(gè)被稱為GPT-3的文本生成器依賴于一個(gè)巨大的數(shù)據(jù)庫，該數(shù)據(jù)庫由從網(wǎng)絡(luò)帖子和電子書掃描中收集的近一萬億單詞組成。微軟為這個(gè)項(xiàng)目建造了一臺(tái)擁有數(shù)十萬個(gè)處理器的超級(jí)計(jì)算機(jī)。

該程序擅長創(chuàng)作事實(shí)段落和虛構(gòu)作品。早期版本的文本生成器,事實(shí)上,非常擅長創(chuàng)建原始文本,人們擔(dān)心它的創(chuàng)造者,它能夠被用于邪惡的目的,如散布虛假新聞在網(wǎng)絡(luò)上或從事計(jì)劃通過虛假欺騙消費(fèi)者在線聊天。

出于這些擔(dān)憂，OpenAI在2019年2月采取了不尋常的措施，拒絕發(fā)布早期版本GPT-2，理由是擔(dān)心潛在的濫用可能會(huì)帶來危險(xiǎn)。

“我們需要進(jìn)行實(shí)驗(yàn)，看看他們能做什么，不能做什么，”O(jiān)penAI政策主管杰克?克拉克(Jack Clark)當(dāng)時(shí)表示?！叭绻悴荒茴A(yù)測(cè)一個(gè)模型的所有能力，你就必須刺激它看看它能做什么。比我們更善于惡意思考的人要多得多。”

該項(xiàng)目最終向公眾發(fā)布，OpenAI最擔(dān)心的事情沒有發(fā)生。

現(xiàn)在新的GPT-3將只對(duì)有限的幾個(gè)來源提供商業(yè)租賃。

根據(jù)OpenAI的報(bào)告，比GPT-2強(qiáng)大100倍的GPT-3在測(cè)試中表現(xiàn)出色。它處理了需要填空的閱讀壓縮練習(xí)，處理“即時(shí)推理”，以及生成多達(dá)500個(gè)單詞的作文。

谷歌已經(jīng)將這種技術(shù)應(yīng)用到它處理復(fù)雜搜索查詢的算法中。微軟在其Office產(chǎn)品中使用該程序來不斷改進(jìn)語法檢查功能。

OpenAI仍然擔(dān)心諸如假新聞發(fā)布、垃圾郵件和網(wǎng)絡(luò)釣魚的濫用。他們?cè)诰W(wǎng)上的論文中寫道，“我們將終止對(duì)明顯有害的用例的API訪問，如騷擾、垃圾郵件、激進(jìn)化或占星化(掩蓋消息背后的人)?！钡覀円仓溃覀儫o法預(yù)測(cè)這項(xiàng)技術(shù)可能帶來的所有后果，所以我們今天推出的是一個(gè)內(nèi)測(cè)版(測(cè)試版)，而不是普遍可用的?！?/p>

只有通過邀請(qǐng)才能訪問GPT-3 API。早期的用戶包括自然語言網(wǎng)絡(luò)搜索公司Algolia、心理健康社交網(wǎng)絡(luò)Koko和人工智能聊天機(jī)器人“伴侶”的創(chuàng)造者Replika。