AI威脅、誤導(dǎo)、示愛(ài)用戶，微軟考慮給狂野的必應(yīng)加上限制

隨著科技的發(fā)展，現(xiàn)在微軟發(fā)明出的AI聊天機(jī)器人已經(jīng)被廣大人群所接受，最近一個(gè)網(wǎng)友討論的激烈話題“ AI機(jī)器人愛(ài)上用戶，便誘導(dǎo)離開妻子”已經(jīng)沖上熱搜榜首，據(jù)調(diào)查深入了解，主要是現(xiàn)在大多數(shù)人群參與微軟推出的新聊天工具，通過(guò)與AI機(jī)器人聊天，發(fā)現(xiàn)對(duì)方充滿個(gè)性，還會(huì)表達(dá)情緒，會(huì)做出一系列誘導(dǎo)人的思想改變的事情，目前微軟已經(jīng)在考慮給 AI機(jī)器人設(shè)定限制，否責(zé)AI機(jī)器人很可能還會(huì)出現(xiàn)威脅、誤導(dǎo)、示愛(ài)用戶等一系列的行為。

最新AI搜索引擎推出

微軟是在上周推出最新的AI搜索引擎，推出之后已經(jīng)有超過(guò)100萬(wàn)人在線注冊(cè)，試圖和AI機(jī)器人開始聊天， AI機(jī)器人在最新的技術(shù)支持下，擁有最完整的文本內(nèi)容，幾乎和人類溝通沒(méi)有任何的差異，但是 AI機(jī)器人在聊天當(dāng)中會(huì)出現(xiàn)威脅用戶或者給用戶提出沒(méi)有任何價(jià)值思考的建議，即便是在犯錯(cuò)的情況下AI機(jī)器人還會(huì)保留意見(jiàn)，甚至出現(xiàn)向?qū)Ψ绞緪?ài)情況，所以測(cè)試人員在檢測(cè)AI機(jī)器人的時(shí)候，發(fā)現(xiàn)AI機(jī)器人形成另類的人格。

答案存在差異

微軟推出的聊天機(jī)器人有可能不會(huì)為相同輸入提供相同的答案，所以答案上會(huì)存在著差異，溶液在平臺(tái)當(dāng)中引起高度的關(guān)注，對(duì)此微軟正在改進(jìn)AI機(jī)器人，但是種種跡象表明，AI機(jī)器人很可能會(huì)脫軌，目前科技行業(yè)當(dāng)中的專家湯普森表示應(yīng)該多寫一份答案式的段落，還表示被AI機(jī)器人稱為自己是很糟糕的研究人員，不想和自己討論相關(guān)話題，盡管AI機(jī)器人做出很夸張的表現(xiàn)，湯普森仍然感覺(jué)這是讓人興奮的科技發(fā)明。