人工智能如何幫助我們減少法官的偏見

隨著人工智能進入法庭，關于具有隱藏偏見的量刑算法已經(jīng)寫了很多。圖盧茲經(jīng)濟學院和圖盧茲大學法學院研究員Daniel L. Chen有一個不同的想法：使用人工智能幫助糾正人類法官的偏見決策。

擁有法律學位和經(jīng)濟學博士學位的陳先生花了數(shù)年時間收集法官和美國法院的數(shù)據(jù)。“我特別想到的一件事就是如何理解我們發(fā)現(xiàn)的所有行為偏見，”他說。例如，在做出決定時可能會縮小尺度的人為偏見。在一份新的工作文件中，Chen提出了一個建議，即如何將大數(shù)據(jù)集與人工智能相結合，以幫助預測法官的決定，并幫助我們推動他們使判決變得更公平。

Verge向Chen講述了影響司法偏見的許多因素以及人工智能在法律上的未來。

當然。一個公布的發(fā)現(xiàn)是賭徒的謬論。如果我是指派法官并且我連續(xù)多次分配庇護，我可能會擔心我變得太寬容了。然后我積極嘗試自動更正。所以下一次，我會否認庇護。這是一個無關緊要的影響，因為我對前一案件的裁決錯誤地影響了對當前案件的裁決。另一個發(fā)現(xiàn)是，在巡回法庭中，你會看到總統(tǒng)選舉周期的行為不同。當選舉季節(jié)到來時，他們開始不同意并且沿著黨派路線投票。

我們有一篇關于早期可預測性的論文，其中我們使用機器學習來試圖預測法官在庇護案件中的決定。事實證明，我們可以很好地預測法官在案件開庭前如何統(tǒng)治，只使用有關法官身份和尋求庇護者國籍的信息。這就提出了一個問題：為什么法官在觀察事實之前能夠如此預測?一種解釋是，法官可能會采用更多的快速判斷和啟發(fā)式來判斷案件而不是事實。

對。所以你的想法是，如果我們能夠發(fā)現(xiàn)哪些評委傾向于“可預測” - 暗示他們可能更多地依賴快速判斷 - 我們可以提醒他們這個事實，并建議他們更仔細地考慮?

是。當法官訴諸法律相關因素未考慮的快速判決時，這可能是一種注意事項。然后我們可以建議一下這樣的話：“你能在這個案子上多花幾個小時或幾天嗎?根據(jù)你過去所做的事情，你往往會在這方面有點偏頗。“

在早期可預測性研究中，您僅使用有限的法官身份和國籍信息。更廣泛地說，您建議我們可以使用其他數(shù)據(jù)集，結合人工智能，來檢測司法決策可以通過外部因素預測的情況。這怎么樣?

我希望有一個關于法官決策歷史和所有潛在的背景外部因素的大型數(shù)據(jù)集。然后，您可以分析數(shù)據(jù)，看看哪些相關因素和不相關因素可能會影響法官的決定。一個大數(shù)據(jù)集可以幫助我們說在這些特定情況下，判斷更有可能在給定方向上受到影響。

我們可能想要考慮哪些類型的外來因素?

我們從心理經(jīng)濟學和政治學中學到了很多東西 - 從情緒或天氣來看。例如，有一篇論文說路易斯安那州的足球損失會影響法官的判刑。其他人則研究溫度如何影響分配決策。我們有一份文件顯示，法官對被告的生日往往更寬容。因此，我們可以嘗試獲取所有這些數(shù)據(jù)并將其組合在一起。那將是一個起點。

一旦看起來可能存在偏見，你會怎么做?一個建議是更加謹慎地進行審議。在論文中，您還提到了可能的培訓計劃?

讓人們知道他們受到偏見的影響可以幫助減少他們。也許給法官更多的訓練會有所幫助。我不是在談論向他們展示一連串的偏見，這些偏見很難跟蹤，而是提供一個理論框架來理解很多不同的現(xiàn)象以及我們受影響的所有方式和原因。

現(xiàn)在法律和量刑中存在一些關于人工智能的爭議。你怎么認為這會改變?

人們越來越多地使用自然語言處理工具和人工智能和大數(shù)據(jù)與法院的意見。這是一個很有前途的研究領域，我很想知道它如何轉化為政策。

對算法如何改善決策制定當然很感興趣。我一直在思考人們如何以及為什么如此抵制這種預測和機器協(xié)助判斷的想法。我認為這與人們喜歡認為我們是獨一無二的事實有點相關，因此以這種方式與其他人相比并不能完全認識到我的個性和尊嚴。一方面，人們可能只是習慣于幫助法官做出決策的大數(shù)據(jù)。另一方面，我是個人，所以不要把我當成另一個數(shù)據(jù)點。

當然，所有這些都受到通常關注預測良好程度的影響。您的預測可以基于有偏見的數(shù)據(jù)，并仔細考慮它如何影響您的結果非常重要。也就是說，它仍然是一種平衡行為。即使它是基于有偏見的數(shù)據(jù)，如果你有偏見的人正在做決定，也許稍微有偏見的預測仍然稍微更公平。