用于視覺(jué)對(duì)話問(wèn)題生成的新模型

Clova AI Research，NAVER和LINE的研究人員最近提出了一個(gè)名為AQM +的新框架，它允許對(duì)話系統(tǒng)生成與上下文相關(guān)的問(wèn)題和答案。他們的模型在arXiv預(yù)先發(fā)表的論文中概述，將在新奧爾良舉行的第七屆學(xué)習(xí)代表國(guó)際會(huì)議(ICLR 2019)上發(fā)表。

“機(jī)器人和人機(jī)協(xié)作被認(rèn)為是一個(gè)重要而有意義的研究課題，特別是從人工智能的道德和公眾利益的角度來(lái)看，”進(jìn)行這項(xiàng)研究的研究人員之一Sang-Woo Lee說(shuō)道，告訴TechXplore。“專(zhuān)注于面向任務(wù)的對(duì)話(TOD)，研究人員從人類(lèi)與AlphaGo之間的GO游戲中獲得了相當(dāng)多的洞察力。更具體地說(shuō)，這些研究人員認(rèn)為通過(guò)訓(xùn)練大型機(jī)器 - 機(jī)器交互模型可以改善面向目標(biāo)的對(duì)話模型允許AlphaGo擊敗人類(lèi)專(zhuān)家。但是，我并不完全同意這個(gè)想法，因?yàn)閷?duì)話是一項(xiàng)基于兩個(gè)玩家之間合作的任務(wù)，與Go是一個(gè)根本不同的競(jìng)爭(zhēng)游戲。

根據(jù)Lee的說(shuō)法，任務(wù)導(dǎo)向?qū)υ?TOD)類(lèi)似于游戲20個(gè)問(wèn)題，因?yàn)閷?duì)話系統(tǒng)的目標(biāo)應(yīng)該是縮小用戶(hù)的意圖和請(qǐng)求。在之前的一項(xiàng)研究中，Lee及其同事介紹了一個(gè)面向任務(wù)的對(duì)話系統(tǒng)的框架，該框架稱(chēng)為“提問(wèn)者心中的回答者”(AQM)，它基于這個(gè)想法。AQM允許對(duì)話系統(tǒng)提出最大化其信息增益的問(wèn)題，從而減少用戶(hù)意圖的不確定性。

與其他方法不同，AQM明確計(jì)算后驗(yàn)分布并通過(guò)分析找到解。盡管有許多優(yōu)點(diǎn)，但發(fā)現(xiàn)AQM在現(xiàn)實(shí)世界的任務(wù)中概括不足，其中對(duì)象，問(wèn)題和答案的數(shù)量通常不受限制。

在他們最近的研究中，研究人員解決了這一局限，并提出了一種新的方法，即AQM +。與之前的方法不同，AQM +可以應(yīng)用于大規(guī)模問(wèn)題，生成與給定對(duì)話框的變化上下文更一致的問(wèn)題和答案。

“類(lèi)似于人類(lèi)對(duì)話，我們的AQM +模擬了對(duì)手所說(shuō)的內(nèi)容，并使用信息理論指標(biāo)(信息增益)來(lái)理解掌握對(duì)手思想和意圖的最有效策略，”Lee解釋道。“這種方法不同于先前基于神經(jīng)網(wǎng)絡(luò)的TOD方法，它主要采用序列到序列(Seq2Seq)通過(guò)響應(yīng)先前的話語(yǔ)直接產(chǎn)生問(wèn)題。”

Lee和他的同事評(píng)估了AQM +在一個(gè)具有挑戰(zhàn)性的面向任務(wù)的視覺(jué)對(duì)話問(wèn)題，稱(chēng)為GuessWhich。他們的模型取得了顯著的成果，在很大程度上超越了最先進(jìn)的方法。

“在AQM +中基于我們的20個(gè)問(wèn)題游戲的方法用于質(zhì)疑用戶(hù)可以解決復(fù)雜的對(duì)話情況，其中存在許多和各種答案以及與一般形成的問(wèn)題相關(guān)的案例，以及是或否的問(wèn)題，”Lee說(shuō)。“這意味著我們的AQM +可以應(yīng)用于現(xiàn)實(shí)世界中不同的TOD情況。”

在他們的測(cè)試中，Lee和他的同事Jung-Woo Ha，Tong Gao，Sohee Yang和Jaejun Yoo發(fā)現(xiàn)，隨著對(duì)話的進(jìn)行，AQM +將錯(cuò)誤減少了60%，而現(xiàn)有算法的誤差減少了不到6%。據(jù)研究人員稱(chēng)，AQM +可用于生成開(kāi)放和封閉的問(wèn)題。

“從端到端方式有效地訓(xùn)練對(duì)話數(shù)據(jù)模型仍然極具挑戰(zhàn)性，特別是對(duì)于TOD系統(tǒng)的開(kāi)發(fā)，”參與該研究的另一位研究員Jung-Woo Ha告訴TechXplore。“雖然AQM +主要側(cè)重于質(zhì)詢(xún)以從回答者那里獲得有用的信息，但它可以通過(guò)包括基于相同方法回答問(wèn)題而自然地?cái)U(kuò)展。”

Lee，Ha和他們的同事們正在考慮未來(lái)研究的一些方向。首先，他們希望進(jìn)一步發(fā)展他們的方法，以實(shí)現(xiàn)對(duì)話的一般學(xué)習(xí)框架。他們的最終目標(biāo)是設(shè)計(jì)一個(gè)能夠在與人類(lèi)交流時(shí)達(dá)到類(lèi)似人類(lèi)準(zhǔn)確性的系統(tǒng)。

“最終，我們的目標(biāo)是開(kāi)發(fā)一個(gè)通用的AI框架，支持類(lèi)似人類(lèi)的機(jī)器 - 機(jī)器和人機(jī)對(duì)話，”Ha說(shuō)。“作為工業(yè)研究科學(xué)家，我們將把我們的技術(shù)應(yīng)用于各種服務(wù)，如信使和AI助手平臺(tái)，從而為全球用戶(hù)提供更大的價(jià)值。”