Facebook，Instagram和Twitter限制了人工智能保姆背景調(diào)查的數(shù)據(jù)訪問(wèn)

Facebook，Instagram和Twitter限制了Predictim可以訪問(wèn)的數(shù)據(jù)量，Predictim是一家總部位于加利福尼亞的創(chuàng)業(yè)公司，它使用機(jī)器學(xué)習(xí)來(lái)審查潛在的保姆。在華盛頓郵報(bào) 上周報(bào)道了 其方法后，社交網(wǎng)絡(luò)對(duì)公司采取了行動(dòng)，引起了廣泛的批評(píng)。

Predictim聲稱使用“先進(jìn)的人工智能”來(lái)判斷保姆的適用性。這包括在對(duì)個(gè)人的角色進(jìn)行自動(dòng)評(píng)估之前，通過(guò)個(gè)人的Facebook，Instagram和Twitter歷史進(jìn)行梳理。該公司聲稱，它可以預(yù)測(cè)個(gè)人是否是吸毒者，是否可能欺負(fù)或騷擾他人，即使他們的態(tài)度“不好”。

專家們批評(píng)Predictim的服務(wù)是不科學(xué)的，并指出機(jī)器學(xué)習(xí)在解析人類語(yǔ)音等復(fù)雜數(shù)據(jù)方面是出了名的不可靠。AI可能善于識(shí)別照片中的物體或手寫(xiě)數(shù)字化，但它無(wú)法可靠地解釋音調(diào)和語(yǔ)音中的細(xì)微差別，如諷刺或笑話。數(shù)據(jù)政策專家還指出，Predictim的軟件并沒(méi)有解釋它的決定如何，這意味著潛在的保姆可能會(huì)在不知道原因或提供解釋的情況下失去工作。

據(jù)華盛頓郵報(bào)和BBC新聞報(bào)道，F(xiàn)acebook，Instagram和Twitter都在過(guò)去幾周內(nèi)對(duì)Predictim采取了行動(dòng)。Facebook表示，在違反禁止開(kāi)發(fā)人員使用此信息審查求職者的禁令后，它極大地限制了該公司在Facebook和Instagram上訪問(wèn)用戶數(shù)據(jù)。Twitter在本周早些時(shí)候撤銷了Predictim對(duì)API的訪問(wèn)權(quán)限(用于訪問(wèn)規(guī)模的數(shù)據(jù)，而不是閱讀個(gè)人資料)。一位發(fā)言人告訴郵報(bào)， “我們嚴(yán)格禁止將Twitter數(shù)據(jù)和API用于監(jiān)視目的，包括進(jìn)行背景調(diào)查。”

“每個(gè)人都會(huì)在社交媒體上看到人們，他們會(huì)在GOOGLE上看到人們。”

Predictim的首席執(zhí)行官兼聯(lián)合創(chuàng)始人Sal Parsa表示，該公司沒(méi)有做錯(cuò)任何事。Parsa告訴BBC新聞?wù)f：“每個(gè)人都在社交媒體上看人，他們會(huì)在Google上看人。” “我們只是在實(shí)現(xiàn)這一過(guò)程的自動(dòng)化。”

Parsa還建議，掃描用戶數(shù)據(jù)以便向他們定位廣告的社交網(wǎng)絡(luò)有自己阻止其軟件的動(dòng)機(jī)。“Twitter和Facebook已經(jīng)在挖掘我們的數(shù)據(jù)，”Parsa告訴郵報(bào)。“就在那里，用戶生成的數(shù)據(jù)?，F(xiàn)在又有一家初創(chuàng)公司試圖利用這些數(shù)據(jù)來(lái)幫助父母選擇一位更好的保姆，并在此過(guò)程中賺到一點(diǎn)錢。“

無(wú)論這些行動(dòng)如何，關(guān)于自動(dòng)背景調(diào)查合法性的更廣泛的問(wèn)題仍然懸而未決。一些專家建議，Predictim的軟件可能會(huì)違反州級(jí)禁止雇主要求訪問(wèn)求職者的社交媒體帳戶。其他社交網(wǎng)絡(luò)希望完全阻止這種數(shù)據(jù)抓取。LinkedIn目前正處于與第三方網(wǎng)站HiQ 的法律斗爭(zhēng)中，后者利用其數(shù)據(jù)來(lái)預(yù)測(cè)員工何時(shí)可能離職。

與此同時(shí)，公司繼續(xù)創(chuàng)建更多基于人工智能的篩選服務(wù)，不僅僅是關(guān)注社交媒體活動(dòng)，還包括其他指標(biāo)，包括個(gè)人的訪談表現(xiàn)。專家擔(dān)心，將關(guān)鍵決策移交給無(wú)法解釋其思維或理解人類行為的算法是不明智的，而銷售這些服務(wù)的公司則表示機(jī)器級(jí)方法更加詳細(xì)和公正。