(相關(guān)資料圖)
在發(fā)生數(shù)次失控事件后，微軟開(kāi)始切斷用戶與必應(yīng)之間的長(zhǎng)時(shí)間對(duì)話。
當(dāng)?shù)貢r(shí)間2月17日，微軟公司發(fā)布公告稱，決定將必應(yīng)聊天回復(fù)限制在每天50個(gè)問(wèn)題、每個(gè)問(wèn)題5條回復(fù)以內(nèi)。
微軟方面解釋說(shuō)，數(shù)據(jù)表明，絕大多數(shù)用戶在5次回復(fù)內(nèi)找到想要的答案，只有大約1%的聊天對(duì)話會(huì)產(chǎn)生50條以上的消息。一旦用戶觸發(fā)五條回答的限制，必應(yīng)就會(huì)開(kāi)啟一個(gè)新的對(duì)話主題。
當(dāng)?shù)貢r(shí)間2月7日，微軟宣布推出搭載了AI技術(shù)的搜索引擎必應(yīng)，新版本中引入了OpenAI旗下ChatGPT的相關(guān)技術(shù)，用戶可以直接提出問(wèn)題，搜索引擎生成答案。
新必應(yīng)一經(jīng)推出便吸引了全世界網(wǎng)友的注意力，上線48小時(shí)內(nèi)，就有超過(guò)100萬(wàn)人注冊(cè)測(cè)試這款聊天機(jī)器人。然而必應(yīng)的“黑化”來(lái)得似乎比人們預(yù)想的要早一些，近日，有不少用戶表示在和必應(yīng)的交流過(guò)程中，發(fā)現(xiàn)其出現(xiàn)了脾氣暴躁、侮辱用戶、操縱用戶情感等令人毛骨悚然的行為。
在兩天前的一篇博文中，微軟介紹說(shuō)，目前發(fā)現(xiàn)當(dāng)必應(yīng)回答了15個(gè)甚至更多問(wèn)題后，可能會(huì)開(kāi)始重復(fù)或被激怒，進(jìn)而給出不符合程序設(shè)定的回答。
微軟認(rèn)為，這種長(zhǎng)時(shí)間的、連續(xù)的問(wèn)答可能是導(dǎo)致聊天模型混淆的重要原因。微軟表示，未來(lái)會(huì)考慮擴(kuò)大上限，并向用戶征求意見(jiàn)。
美國(guó)消費(fèi)者新聞與商業(yè)頻道（CNBC）報(bào)道，微軟此前曾表示，改進(jìn)AI產(chǎn)品的唯一方法，就是將它們推向全世界并從用戶交互中學(xué)習(xí)。
