GPT-4發(fā)布前，OpenAI曾雇各行專家開展“對抗性測試”，為打消人們疑慮

北京時(shí)間4月17日最新消息報(bào)道，人工智能初創(chuàng)企業(yè)open AI在發(fā)布大型語言模型之前，曾雇傭各行業(yè)的專家組成團(tuán)隊(duì)，進(jìn)行對抗性測試，探究該模型未來所出現(xiàn)的問題，并測試該人工智能會(huì)如何作出回應(yīng)。

作為羅切斯特大學(xué)的化學(xué)工程教授，懷特是被聘用的學(xué)者和專家之一，在6個(gè)月的探索中，所有的成員對于該模型進(jìn)行了對抗性測試，看是否能夠攻破GPT-4。

據(jù)他本人表示，他們所使用的GPS-4可以提出一種作為化學(xué)毒劑的化合物，還引入諸多科學(xué)論文和化學(xué)商品的名稱，結(jié)果人工智能聊天機(jī)器人甚至找到了這種化學(xué)藥劑的制作方法和來歷。

為了打消人們在社會(huì)上對于人工智能潛在以危險(xiǎn)的擔(dān)心，這個(gè)團(tuán)隊(duì)就是為了提出更多具備探索性的問題，解決更多的危險(xiǎn)問題，測試人工智能在社會(huì)上會(huì)如何作出回應(yīng)。

據(jù)爆料，該團(tuán)隊(duì)來自于各行各業(yè)，有學(xué)者老師，律師以及風(fēng)險(xiǎn)分析師和安全研究員，大部分員工的工作地點(diǎn)都在美國和歐洲。

在幾個(gè)月的時(shí)間中，該團(tuán)隊(duì)中的每一個(gè)成員都會(huì)花費(fèi)10~40個(gè)小時(shí)來重新測試新模型，有多位員工表示自己的時(shí)薪大概在100美元左右，因?yàn)榇笮驼Z言模型的快速發(fā)展，很多成員都擔(dān)心該語言模型是否會(huì)在日后造成潛在影響，更擔(dān)心通過插件和外部感知連接所造成的未知風(fēng)險(xiǎn)。

Open AI公司也非常重視這個(gè)人工智能的安全性，在發(fā)布之前會(huì)對該插件做出各種測試，隨著越來越多人使用 GPT-4，在未來open AI會(huì)定期對于該人工智能模型進(jìn)行更新，即便如此，GPT-4也有明顯的邊緣化刻板現(xiàn)象，需要完善的地方還有很多。