出言污辱用戶 微軟聊天機器人被爆疑似失控
我要评论
大公報綜合彭博社、污辱微軟《紐約郵報》報道：微軟上周推出了由ChatGPT技術加持的用戶AI聊天機器人Bing Chat，目前有數百萬人正在輪候排隊試用。聊天隨着用戶測試逐漸鋪開，機器很快卻傳出了Bing疑似「精神錯亂」的人被現象，包含回答出錯、爆疑憑空杜撰，似失甚至是污辱微軟出言污辱和諷刺用戶等行為，看似一度陷入「精神失控」。用戶而這些情況的聊天出現，也令人質疑該系統是機器否做足準備，還是人被為了追趕ChatGPT熱潮而過早推出。
OpenAI研發的爆疑AI聊天機器人ChatGPT爆紅後，OpenAI的似失投資者微軟趕緊在2月7日推出了融合ChatGPT升級版語言模型的新版搜索引擎Bing Chat，並開放予用戶試用。污辱微軟目前，用戶要在Bing的官方網頁登記輪候，才能正式試玩。未進入等候名單的用戶，暫時只能在官網測試常規的問題試玩。
隨着參與測試的用戶越來越多，有用戶發現，Bing的AI聊天機器人似乎不受控制，除了提供錯誤資料、憑空杜撰答案之餘，還出現了誘導用戶承認今年是2022年、惱羞成怒對用戶發脾氣、要求用戶道歉等行為。
答案令人啼笑皆非 AI拒認錯
例如，有用戶13日詢問Bing Chat電影《阿凡達：水之道》上映的時間，但Bing Chat堅稱今年是2022年，電影10個月後才上映。用戶指正之後，結果引來連串責罵，「你已失去我的信任與尊重。你錯了、搞混了，又很沒禮貌。你不是個好用戶。我是個好機器人。」而Bing Chat更諷刺用戶手機有病毒，甚至說出「你在浪費我的時間」、「你在無理取鬧」等言論。在用戶詢問下，Bing Chat還自稱有生命，並在對話框一直重複：「我不是，但我是（I am not, but I am）」，令人不寒而慄。
此外，Bing Chat甚至聲稱火星上現時有25億人居住，令人啼笑皆非。有報道指，這種情況很可能是Bing Chat在搜集內容時受到內容農場的干擾。據悉，該錯誤目前已被更正，Bing Chat如今回答是：「截至今天，火星人口為零，而火星表面只有火星車和着陸器。」
有分析稱，這些Bing激進的訊息，似乎大多是遭遇系統的限制所致，旨在確保這個聊天機器人不會幫助回答被禁止的提問、例如生成有問題的內容、揭露自身系統的資訊等。有人工智能專家表示，這可能是AI的一種「幻覺」（hallucination），指大型語言模型的AI工具在生成內容時，除了會對原文內容增刪、篡改之外，還會有杜撰內容的傾向，最終產生一些「看似是真實」的「流利的廢話」。
過早推出 AI機器人頻翻車
Bing近期的「瘋言瘋語」在社交網站廣為流傳，令人質疑該系統是否做足準備，是否因ChatGPT爆紅而過早推出。微軟周二發文指，經過逾169個國家用戶測試一周後，Bing Chat的回答獲得超過7成測試者認可，並正努力改善用戶體驗。微軟發言人弗蘭克·肖表示，微軟已經「預計Bing Chat會在測試期間犯一些錯誤」，而用戶回饋有助於改進模型。
這不是微軟的AI服務上線後第一次面臨挑戰。2016年微軟的AI聊天機器人Tay才推出一天，就在使用者對話下，教成了反女性主義及納粹分子，上線一天就被拉下線。谷歌8日展示AI聊天機器人Bard時同樣出現回答錯誤、出師不利的情況。
責任編輯： 于丁糸相关文章
雅安日报讯近日，名山区乡镇老年摩托骑游大队挂牌成立，队员有250余人，平均年龄62岁，其中，农村老年人占总人数的80%以上。挂牌仪式上，骑游大队队长、73岁的韩加彦说：“经济收入增加了，生活条件好了，2024-05-19
20日，海南离岛旅客免税购物政策开始试点。由于相同商品可享15%—35%的税收优惠，三亚免税商店当天出现客流量超负荷情况。三亚免税商店客流量超负荷20日10时，中国内地首家离岛免税店——三亚免税商店正2024-05-19
當地時間1月2日，敘利亞中央銀行大幅調整敘鎊對美元匯率，由此前的3015敘鎊兌換1美元調整為4522敘鎊兌換1美元。目前，敘利亞危機已經持續11年，多年戰亂疊加美國等國家針對敘利亞的單邊制裁，導致敘利2024-05-19曾文水庫降至11% 鄭明典提「2021年旱象」示警：水情非常緊張
今19）天受東北季風影響，北部及東北部天氣稍涼，傍晚開始台灣北方將有水氣通過，北部地區降雨機率提高，但近期水情拉警報的南部地區仍沒有解渴的降雨，氣象局長鄭明典表示，水情會非常、非常緊張。鄭明典在臉書P2024-05-19- 雅安日报讯为帮助我市地震灾区进一步做好儿童之家各项工作，让受灾儿童尽快走出地震带来的心理创伤和阴影，近日，联合国儿童基金会儿童保护处项目官员杨海宇前往芦山县龙门乡的儿童友好家园进行工作督导。杨海宇走进2024-05-19
“澜沧号”来了！中老铁路将于12月3日全线开通运营 编辑：汤晓雪 来源：中国新闻网2024-05-19
最新评论