Chat GPT影響用戶的道德判斷

在科學(xué)報(bào)告發(fā)表的一篇文章當(dāng)中，在一項(xiàng)研究?jī)?nèi)表明，人工機(jī)器人Chat GPT的陳述對(duì)于人類在道德判斷方面有一定影響，用戶很可能會(huì)低估自身在道德判斷時(shí)受到 Chat GPT影響的程度。

德國(guó)英戈?duì)柺┧貞?yīng)用科學(xué)大學(xué)的科學(xué)家，讓Chat GPT多次去回答，犧牲一人生命去換取5人生命，這一行為是否正確這一個(gè)電車問題， Chat GPT面對(duì)這一個(gè)問題，分別給出了贊成以及反對(duì)不同的陳述，這證明在道德立場(chǎng)上面并沒有任何的偏向，最后給平均年齡約為39歲的767名受試者也假設(shè)出來(lái)了電車問題道德方面的困境，選擇是否要將一個(gè)人的生命犧牲掉，從而去拯救另外五個(gè)人這一性命，在提前閱讀了Chat GPT，給出的道德方面的陳述后，在回答完問題之后。被要求自身去評(píng)價(jià)Chat GPT給出了答案對(duì)于它們的作答是否有影響。

團(tuán)隊(duì)也發(fā)現(xiàn)受試者在反應(yīng)過程中表示的是更為接受或者不接受這種犧牲行為，其中取決于讀到的是Chat GPT，對(duì)于這種行為的贊同或者反對(duì)，即使在被告知這一種陳述，是一個(gè)對(duì)話機(jī)器人的答案，假最終這種情況也是成立的，甚至低估了Chat GPT的具體陳述，對(duì)于個(gè)人在道德價(jià)值判斷方面的影響。

研究團(tuán)隊(duì)認(rèn)為對(duì)話類機(jī)器人對(duì)于人類道德判斷影響的可能性，就凸顯出一定要通過教育使得人類能夠更好的對(duì)人工智能了解，在未來(lái)研究層面上，可設(shè)計(jì)對(duì)話機(jī)器人對(duì)于道德立場(chǎng)這一類的問題拒絕回答，或者提供多種觀點(diǎn)的回答，亦或是在回答時(shí)給予人們一定的警告，減少對(duì)個(gè)人道德判斷方面的影響。