在反網(wǎng)絡(luò)欺凌的戰(zhàn)爭(zhēng)中 人工智能是如何成為Instagram的首選武器的

在一個(gè)旨在成為分享用戶生活快照的安全場(chǎng)所的平臺(tái)上，Instagram擁有所有社交媒體網(wǎng)站中最大的網(wǎng)絡(luò)欺凌問(wèn)題。但I(xiàn)nstagram并沒(méi)有像Face book和Twitter所做的那樣，讓用戶承擔(dān)起舉報(bào)濫用的責(zé)任，而是成為了第一個(gè)利用機(jī)器學(xué)習(xí)消除其平臺(tái)上濫用語(yǔ)言的社交媒體出口。

來(lái)自反欺凌慈善機(jī)構(gòu)“惠譽(yù)標(biāo)簽”（Ditch The Label）的最新調(diào)查發(fā)現(xiàn)，在12歲至25歲的1萬(wàn)多名英國(guó)青年中，42%的人發(fā)現(xiàn)Instagram是他們最受欺負(fù)的平臺(tái)——Face book和Twitter分別落后37%和9%。而71%的主體群體認(rèn)為所有社交媒體網(wǎng)絡(luò)在阻止網(wǎng)絡(luò)欺凌方面做得不夠。

為了正面解決網(wǎng)絡(luò)欺凌問(wèn)題，Instagram最近宣布了一項(xiàng)新策略：整合機(jī)器學(xué)習(xí)算法，以檢測(cè)和阻止其平臺(tái)上的潛在欺凌者。這項(xiàng)研究的目的是在Instagram上建立善良、包容的社區(qū)，該公司首席執(zhí)行官兼聯(lián)合創(chuàng)始人凱文·西斯特羅姆（Kevin Systrom）在一篇博客文章中說(shuō)。

如何處理員工的虐待和欺凌（技術(shù)專業(yè)研究）

Instagram正在使用DeepText——與Face book所有者相同的機(jī)器學(xué)習(xí)算法——試圖關(guān)閉他們的網(wǎng)絡(luò)欺凌問(wèn)題。2016年6月，F(xiàn)ace book工程師推出DeepText，稱之為“基于深度學(xué)習(xí)的文本理解引擎，能夠以接近人類的精確度理解每秒數(shù)千個(gè)帖子的文本內(nèi)容?！?/p>

通過(guò)深度學(xué)習(xí)（機(jī)器學(xué)習(xí)的一個(gè)子集，它使用基于人腦神經(jīng)網(wǎng)絡(luò)的算法），F(xiàn)ace book工程師使用單詞嵌入來(lái)幫助系統(tǒng)理解人類使用語(yǔ)言的微妙方式。DeepText被設(shè)計(jì)成像人腦一樣工作，使用演繹推理來(lái)確定單詞在特定語(yǔ)境中的含義。

例如，如果有人使用“痣”這個(gè)詞，DeepText將確定用戶是指的是小型哺乳動(dòng)物、皮膚缺陷或叛徒。Face book利用這一系統(tǒng)篩選成千上萬(wàn)的帖子，以更好地了解其受眾，旨在創(chuàng)造更好、更個(gè)性化的用戶體驗(yàn)，以迎合個(gè)人興趣。

2016年10月，Instagram推出DeepText消除垃圾郵件。該算法的目標(biāo)是尋找試圖銷(xiāo)售產(chǎn)品的追隨者和組織的互聯(lián)網(wǎng)巨魔，分析評(píng)論和標(biāo)題的語(yǔ)義，這將暗示數(shù)據(jù)是否是垃圾郵件。

但DeepText的成功導(dǎo)致Instagram考慮了該系統(tǒng)的其他用途。在2017年6月的一篇博客文章中，Systrom宣布該公司將使用DeepText作為“一個(gè)過(guò)濾器來(lái)阻止某些冒犯性的評(píng)論?！痹撈脚_(tái)使用最初由Face book創(chuàng)建的技術(shù)來(lái)創(chuàng)建一個(gè)過(guò)濾器，以幫助為用戶建立一個(gè)安全的環(huán)境。

網(wǎng)絡(luò)欺凌和仇恨言論并不是Instagram獨(dú)有的，其他主要社交媒體網(wǎng)絡(luò)已經(jīng)被迫為其用戶做出安全改變。

康奈爾大學(xué)（Cornell University）研究生湯姆·戴維森（Tom Davidson）表示：“機(jī)器學(xué)習(xí)算法已被證明是檢測(cè)仇恨言論和網(wǎng)絡(luò)欺凌的有效方法，”他是社交媒體上有關(guān)仇恨言論和網(wǎng)絡(luò)欺凌的報(bào)道的合著者，關(guān)注Twitter。戴維森告訴Tech Republic，各種不同的算法被證實(shí)是有效的，如“Logistic回歸、樸素貝葉斯、隨機(jī)森林、支持向量機(jī)”。但所有這些方法的關(guān)鍵是依賴于監(jiān)督學(xué)習(xí)，他說(shuō)，這是一種使用標(biāo)記訓(xùn)練數(shù)據(jù)進(jìn)行推理的機(jī)器學(xué)習(xí)策略。戴維森的研究涉及收集數(shù)以百萬(wàn)計(jì)的推特，這些推特有潛在的網(wǎng)絡(luò)欺凌暗示（種族誹謗、咒罵等）。戴維森說(shuō)，給它們貼上標(biāo)簽，并將數(shù)據(jù)輸入到算法中。戴維森補(bǔ)充說(shuō)，這些例子被用來(lái)訓(xùn)練算法，然后它應(yīng)該能夠自己對(duì)仇恨言論進(jìn)行分類。

推特2016年11月的博客文章宣布了通知?jiǎng)h除功能，以及一項(xiàng)可恨的行為政策，讓用戶有一個(gè)更直接的媒體報(bào)告濫用。雖然這些努力試圖防止網(wǎng)絡(luò)欺凌，但刪除攻擊性通知并不意味著推特不存在。盡管報(bào)告濫用是極其重要的，但無(wú)論Twitter需要多長(zhǎng)時(shí)間才能做出回應(yīng)，用戶仍然處于支配之下。

見(jiàn)：機(jī)器學(xué)習(xí)人工智能捆綁（科技公益學(xué)院）

臉書(shū)試圖通過(guò)組建欺凌預(yù)防中心來(lái)減少網(wǎng)絡(luò)欺凌。該中心作為一個(gè)資源，供青少年，父母和教育工作者使用，當(dāng)他們或他們認(rèn)識(shí)的人被欺負(fù)。雖然該資源為啟動(dòng)網(wǎng)絡(luò)欺凌對(duì)話提供了寶貴的建議，但Face book的欺凌預(yù)防中心并沒(méi)有直接采取任何措施來(lái)迎頭消除濫用內(nèi)容。該公司只使用該工具根據(jù)用戶的興趣推薦內(nèi)容。

盡管如此，這些努力還不足以完全阻止網(wǎng)絡(luò)欺凌。

Zeerak Waseem，博士謝菲爾德大學(xué)（University of Sheffield）的D.學(xué)生專注于推特上的辱罵性語(yǔ)言檢測(cè)和仇恨言論，他告訴Tech Republic說(shuō)，“這些嘗試缺乏效果?！?/p>

為什么？雖然Twitter和Face book都在馴服網(wǎng)絡(luò)欺凌方面邁出了大步，但I(xiàn)nstagram是第一個(gè)讓攻擊性評(píng)論自動(dòng)消失的社交網(wǎng)站。Systrom的博客文章和Wired都解釋了AI目前是如何在Instagram賬戶上運(yùn)作的。如果用戶發(fā)布攻擊性或騷擾性語(yǔ)言，DeepText將立即捕獲并刪除它。據(jù)Wired報(bào)道，為了防止惡霸試圖玩弄系統(tǒng)，攻擊性語(yǔ)言仍然可以被施暴者看到。用戶還可以手動(dòng)輸入他們想要阻塞的單詞或短語(yǔ)，通過(guò)阻塞可能是用戶唯一的觸發(fā)詞，使DeepText更加有效。

然而，深度文本并不完美。

Instagram的機(jī)器學(xué)習(xí)算法在平臺(tái)上自動(dòng)集成，但一些仇恨言論仍然可以繞過(guò)這個(gè)工具。瓦西姆告訴Tech Republic說(shuō)，暗指侮辱，如綽號(hào)或誹謗的代號(hào)，對(duì)DeepText來(lái)說(shuō)很難察覺(jué)。此外，該功能可以很容易地關(guān)閉。只要輕輕一指，“隱藏攻擊性評(píng)論”的切換就可以被關(guān)閉，如果任務(wù)是消除網(wǎng)絡(luò)欺凌，這似乎是違反直覺(jué)的。自由言論和創(chuàng)造一個(gè)消除仇恨言論的環(huán)境之間的界限并不容易找到。然而，戴維森補(bǔ)充說(shuō)，“機(jī)器學(xué)習(xí)并不是一顆能阻止網(wǎng)絡(luò)欺凌或網(wǎng)絡(luò)仇恨言論的靈丹妙藥?！睓C(jī)器學(xué)習(xí)可以幫助被欺負(fù)的用戶感覺(jué)更好，但沒(méi)有任何技術(shù)可以阻止個(gè)人說(shuō)壞話。

Ditch the Label首席執(zhí)行官利亞姆·哈克特（Liam Hackett）告訴Tech Republic，Instagram擁有最多網(wǎng)絡(luò)欺凌問(wèn)題的關(guān)鍵群體是在平臺(tái)上有賬戶的年輕人。哈克特說(shuō)，由于Instagram內(nèi)容的性質(zhì)，很多騷擾都集中在人們的外表上。這些侮辱從對(duì)照片的負(fù)面評(píng)論，到惡霸創(chuàng)建假賬戶來(lái)烤他們的目標(biāo)。

哈克特稱贊Instagram的努力，告訴Tech Republic機(jī)器學(xué)習(xí)策略是多么奇妙，以及如何更多的社交網(wǎng)絡(luò)需要投資于這項(xiàng)技術(shù)。他提到Instagram使用人工智能如何顯示反對(duì)網(wǎng)絡(luò)欺凌運(yùn)動(dòng)的巨大進(jìn)步，人工智能真的改變了游戲。

除了防止欺凌外，DeepText還有其他功能，可以幫助企業(yè)深入了解客戶的利益，更好地理解信息是如何在整個(gè)公司傳播的。

見(jiàn)：iHate系列----不容忍接管互聯(lián)網(wǎng)（CNET）

在情感層面上幫助個(gè)人的機(jī)器學(xué)習(xí)是朝著正確方向邁出的巨大一步。然而，解決為什么在線巨魔繼續(xù)在這些平臺(tái)上濫用行為是一個(gè)更大的問(wèn)題。

哈克特說(shuō)：“作為一個(gè)社會(huì)，我們不知道如何在網(wǎng)上進(jìn)行接觸。哈克特補(bǔ)充說(shuō)：“互聯(lián)網(wǎng)讓人失去了人性。”在屏幕的舒適感背后，在網(wǎng)上侮辱用戶比說(shuō)那些侮辱人的話要容易得多。離線的人際關(guān)系有隱含的行為準(zhǔn)則-一種未經(jīng)言語(yǔ)但被理解的社會(huì)規(guī)范。在萬(wàn)維網(wǎng)上并不總是遵循同樣的禮貌。

作為今年使用最多的社交媒體網(wǎng)絡(luò)之一，Instagram每月活躍用戶高達(dá)7億，并且增長(zhǎng)迅速，在短短4個(gè)月的時(shí)間框架內(nèi)獲得了1億新用戶。然而，用戶的增加顯示出傷害性的帖子和攻擊性的語(yǔ)言的增加。

哈克特指出，用戶“沒(méi)有充分掌握如何在線行為的技能?！毕馜eepText這樣的程序可以解決這個(gè)問(wèn)題。然而，編程本身可能并不是教導(dǎo)人們?cè)诰W(wǎng)上相互尊重的完全解決方案。