互聯(lián)網(wǎng)提供了建設(shè)性對(duì)話與合作的潛力

互聯(lián)網(wǎng)提供了建設(shè)性對(duì)話與合作的潛力，但在線對(duì)話往往會(huì)淪為人身攻擊。希望能夠避免這些攻擊，康奈爾大學(xué)的研究人員已經(jīng)創(chuàng)建了一個(gè)模型來預(yù)測(cè)哪些民事談話可能會(huì)發(fā)生毒性轉(zhuǎn)變。

在對(duì)維基百科上的數(shù)百個(gè)交易所進(jìn)行分析后，研究人員開發(fā)了一個(gè)計(jì)算機(jī)程序，用于掃描紅旗 - 例如重復(fù)，直接提問和在前兩個(gè)帖子中使用“你”這個(gè)詞 - 來預(yù)測(cè)最初的民事談話會(huì)出錯(cuò)。

研究發(fā)現(xiàn)，早期的交流包括問候，表達(dá)感激之情，諸如“似乎”的對(duì)沖以及“我”和“我們”這兩個(gè)詞更可能保持文明。

“有數(shù)百萬次這些討論，你不可能現(xiàn)場(chǎng)監(jiān)控它們。這個(gè)系統(tǒng)可能會(huì)幫助人類主持人更好地引導(dǎo)他們的注意力，”信息科學(xué)助理教授兼共同作者克里斯蒂安·丹尼斯庫 - 尼庫列斯庫 - 米齊爾說。文章“對(duì)話失?。喊l(fā)現(xiàn)會(huì)話失敗的早期跡象”。

“我們?nèi)祟悓?duì)如何檢測(cè)某些事情是否變壞有直覺，但這只是一種懷疑。我們不能百分之百地做到這一點(diǎn)。因此，我們想知道我們是否可以建立系統(tǒng)來復(fù)制這種直覺，因?yàn)槿祟惣劝嘿F又忙碌，我們認(rèn)為這是計(jì)算機(jī)有可能超越人類的問題，“Danescu-Niculescu-Mizil說。

計(jì)算機(jī)模型也考慮了Google的Perspective，這是一種用于評(píng)估“毒性”的機(jī)器學(xué)習(xí)工具，大約65%的時(shí)間是正確的。人類在72%的時(shí)間里正確猜對(duì)了。

人們可以測(cè)試自己的能力來猜測(cè)哪些對(duì)話會(huì)在在線測(cè)驗(yàn)中脫軌。

該研究分析了1,270個(gè)對(duì)話，這些對(duì)話是從民間開始但墮落為個(gè)人攻擊，從1600萬個(gè)維基百科“談話”頁面中的5000萬個(gè)對(duì)話中挑選出來，編輯們討論文章或其他問題。他們成對(duì)地檢查了交換，比較了每個(gè)在同一個(gè)主題上取得成功的會(huì)話，所以結(jié)果并沒有受到政治等敏感主題的影響。

該論文與康奈爾大學(xué)博士共同撰寫。信息科學(xué)專業(yè)學(xué)生Justine Zhang; 博士 計(jì)算機(jī)科學(xué)專業(yè)的學(xué)生Jonathan P. Chang和Yiqing Hua; Jigsaw的Lucas Dixon和Nithum Thain; 維基媒體基金會(huì)的Dario Taraborelli將于7月15日至20日在澳大利亞墨爾本舉行的計(jì)算語言學(xué)協(xié)會(huì)年會(huì)上發(fā)表演講。

研究人員希望這種模式可用于拯救風(fēng)險(xiǎn)對(duì)話并改善在線對(duì)話，而不是禁止特定用戶或?qū)彶槟承┲黝}。一些在線海報(bào)，例如非母語英語使用者，可能沒有意識(shí)到他們可能被認(rèn)為是攻擊性的，這種系統(tǒng)的警告可以幫助他們自我調(diào)整。

“如果我有找到人身攻擊的工具，那已經(jīng)太晚了，因?yàn)楣粢呀?jīng)發(fā)生，人們已經(jīng)看到了，”Chang說。“但是，如果你理解這次談話朝著一個(gè)糟糕的方向前進(jìn)并采取行動(dòng)，那么這可能會(huì)讓這個(gè)地方更加歡迎。”