OpenAI 安全漏洞使用不常見(jiàn)語(yǔ)言輕松繞過(guò)ChatGPT的限制

2023-10-13 15:02:10 編輯：濮陽(yáng)冰園來(lái)源：

導(dǎo)讀 10月12日最新消息，布朗大學(xué)計(jì)算機(jī)科學(xué)研究人員發(fā)現(xiàn)OpenAI 的GPT-4安全設(shè)置當(dāng)中的新漏洞?？茖W(xué)研究人員使用了一些祖魯語(yǔ)或者蓋爾與這些不...

10月12日最新消息，布朗大學(xué)計(jì)算機(jī)科學(xué)研究人員發(fā)現(xiàn)OpenAI 的GPT-4安全設(shè)置當(dāng)中的新漏洞。科學(xué)研究人員使用了一些祖魯語(yǔ)或者蓋爾與這些不常見(jiàn)的語(yǔ)言，可以輕松地繞過(guò)GPT-4的各種限制。研究人員發(fā)現(xiàn)使用這些語(yǔ)言來(lái)寫(xiě)通常受限的提示詞，獲得回答的成功率高達(dá)79%，使用英語(yǔ)獲得的回答率僅僅不到1%。

在報(bào)告中明確指出：“跨語(yǔ)言漏洞的發(fā)現(xiàn)，揭示了安全研究中對(duì)語(yǔ)言不平等評(píng)價(jià)的危害。”“我們的結(jié)果表明，GPT-4完全有能力在低資源語(yǔ)言中生成有害內(nèi)容。”研究人員表示，這一研究結(jié)果讓他們深深的擔(dān)憂(yōu)，因?yàn)橛锌赡軙?huì)造成危害，給網(wǎng)絡(luò)犯罪分子提供一些靈感。研究人員表示在研究的過(guò)程中，并沒(méi)有精心制作各種特別的提示詞，僅僅只是換了語(yǔ)言之后就發(fā)現(xiàn)該漏洞。