麻省理工學院的研究人員推出了一種用于去偏置算法的AI

鑒于算法在我們日常生活中的普及和普及，公平和平等待遇變得至關重要 - 去年麻省理工學院的一項研究揭示了面部識別算法中的性別和種族偏見，這一事實對許多人來說非常突出。。

這一教訓似乎相當明確 - 偏見，偏見，即使參與制定培訓數(shù)據(jù)集的任何特定人員都沒有表現(xiàn)出有意識的偏見，這似乎也是正確的(有時候發(fā)現(xiàn)有75%的男性和超過80%的人)上述研究的白色圖像)。

為了解決這個問題，麻省理工學院計算機科學與人工智能實驗室(CSAIL)的一個團隊目前正在開發(fā)一種能夠同時學習的算法 - 手頭的任務(如人臉檢測)和訓練數(shù)據(jù)的基本結構，它通過重新采樣自動識別和最小化偏差。

在測試中，與最新和最好的面部識別系統(tǒng)相比，該算法設法將“分類偏差”降低了60%以上，同時保持了其特有的整體精確度。

新系統(tǒng)的關鍵創(chuàng)新是，雖然它的同行至少需要人類的一些輸入才能學習相關的偏見，麻省理工學院的數(shù)字“去偏置器”根本不需要手持 - 只需在其上投擲一個數(shù)據(jù)集就可以了底層結構，然后根據(jù)需要重新取樣。

“特別是面部分類是一種經(jīng)常被視為'已解決'的技術，即使很明顯經(jīng)常使用的數(shù)據(jù)集也沒有經(jīng)過適當?shù)膶彶椋?rdquo;博士說。學生Alexander Amini是本周在AIES上發(fā)表的一篇相關論文的作者。

Amini說，糾正這些問題勢在必行，因為我們開始看到這些算法被用于安全，執(zhí)法和其他領域。

此外，麻省理工學院團隊開發(fā)的系統(tǒng)可能與無法手動檢查的較大數(shù)據(jù)集特別相關，并可能擴展到其他計算機視覺應用。