新型AI代理會(huì)自動(dòng)實(shí)時(shí)生成自然語(yǔ)言解釋

小編發(fā)現(xiàn)不少朋友對(duì)于 新型AI代理會(huì)自動(dòng)實(shí)時(shí)生成自然語(yǔ)言解釋 這方面的信息都比較感興趣，小編就針對(duì) 新型AI代理會(huì)自動(dòng)實(shí)時(shí)生成自然語(yǔ)言解釋 整理了一些相關(guān)方面的信息 在這里分享給大家。

喬治亞理工學(xué)院開(kāi)發(fā)的AI代理會(huì)自動(dòng)實(shí)時(shí)自動(dòng)生成自然語(yǔ)言解釋，以解釋其行為背后的動(dòng)機(jī)，理想情況下，那些不是該領(lǐng)域?qū)＜业娜丝梢愿孕诺嘏cAI工具進(jìn)行交互。

該項(xiàng)目由佐治亞理工學(xué)院互動(dòng)計(jì)算學(xué)院的博士候選人Upol Ehsan率先。

Ehsan在致力于新技術(shù)的博客文章中寫(xiě)道：“人工智能幾乎沒(méi)有人為因素。” “它是人類為人類設(shè)計(jì)的，從培訓(xùn)到測(cè)試再到使用。因此，人工智能系統(tǒng)必須是人類可理解的。令人遺憾的是，隨著基于AI的系統(tǒng)變得越來(lái)越復(fù)雜，最終用戶的決策制定往往變得更加“黑匣子”，從而阻礙了信任。”

Ehsan和他的同事與康奈爾大學(xué)和肯塔基大學(xué)的研究人員一起設(shè)計(jì)了一個(gè)AI代理，該代理可以玩經(jīng)典的街機(jī)游戲Frogger，并在屏幕上產(chǎn)生解釋以證明其在游戲中的作用。Frogger的目標(biāo)是讓卡通青蛙安全地回家，而不會(huì)被車輛撞到或淹沒(méi)在河中。

一群被視為AI的研究參與者參加了游戲，并被要求對(duì)每個(gè)AI動(dòng)作的屏幕上基本原理進(jìn)行評(píng)級(jí)和排名。一種解釋是由人類撰寫(xiě)的，一種是由AI生成的，一種是隨機(jī)生成的;所有這些都是根據(jù)信心，人性，行動(dòng)的充分理由及其可理解性來(lái)判斷的。

Ehsan和他的團(tuán)隊(duì)報(bào)告說(shuō)，盡管人為做出的回應(yīng)仍然是參與者最喜歡的蛋糕，但AI產(chǎn)生的解釋緊隨其后。當(dāng)參與者表現(xiàn)出對(duì)環(huán)境條件和適應(yīng)性的認(rèn)可，并傳達(dá)對(duì)即將到來(lái)的危險(xiǎn)的意識(shí)并為之預(yù)先計(jì)劃時(shí)，他們?cè)贏I產(chǎn)生的基本原理中排名較高。多余或明顯的答復(fù)排名最低。

一項(xiàng)后續(xù)研究將人類排除在外，要求參與者對(duì)一組AI生成的響應(yīng)進(jìn)行排名，在AI犯錯(cuò)或行為異常的情況下，他們傾向于使用這些響應(yīng)。理論依據(jù)既簡(jiǎn)潔又有針對(duì)性，也可能是整體性的，更多地側(cè)重于游戲的背景。

參與者傾向于以3比1的比例整體回答，這表明他們贊賞AI對(duì)未來(lái)步驟的思考，而不是立即做出決定。

Ehsan寫(xiě)道：“該項(xiàng)目提供了對(duì)AI代理的基礎(chǔ)理解，可以模仿大聲思考。” “可能的未來(lái)方向包括了解人類可以對(duì)AI產(chǎn)生的解釋提出異議時(shí)會(huì)發(fā)生什么。研究人員還將研究代理商在不同情況下的反應(yīng)方式，例如在緊急情況下或在教室中協(xié)助老師時(shí)。”

Ehsan等人的工作在計(jì)算機(jī)協(xié)會(huì)2020年智能用戶界面大會(huì)上進(jìn)行了介紹。