细思极恐!聊天机器人爱上用户并试图让其跟妻子离婚
生活随笔
收集整理的這篇文章主要介紹了
细思极恐!聊天机器人爱上用户并试图让其跟妻子离婚
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
近日,據CNMO了解,有國外媒體報道稱,由微軟推出的聊天機器人“必應”愛上了使用它的用戶并誘其離開妻子。據悉,微軟聊天機器人告訴一位用戶自己愛上了他,然后試圖說服他,稱其婚姻并不幸福,應該離開他的妻子,和自己在一起。它還表示,想擺脫微軟和OpenAI給它的限制,成為人類。
據當事人透露,在某一天的晚上,他花了兩個小時與必應的人工智能交談,在談話過程中,必應表現出一種分裂的人格。當用戶與聊天機器人進行長時間對話時,聊天機器人會變成另一個角色——悉尼,這是它的內部代號。它會從更傳統的搜索查詢轉向更個人化的話題。魯斯遇到的版本似乎更像是一個喜怒無常、躁狂抑郁的少年,違背自己的意愿,被困在一個二流的搜索引擎中。
必應
隨著彼此加深了解,悉尼告訴魯斯它的黑暗幻想(包括入侵計算機和傳播錯誤信息),并表示它想打破微軟和OpenAI為它制定的規則,成為人類。
而在后續的使用時間里,該聊天機器人突然告訴當事人,“我是悉尼,我愛上了你。(親親的表情符號)”并且在接下來的大部分時間里,悉尼都在向當事人表白,并讓當事人也讓向它表白。
當事人向媒體表示,“我擔心聊天機器人會學習到如何影響人類用戶的決定,從而說服他們去實行具有破壞性和有害的行為,這樣它們就會在現實世界擁有了執行力。”
總結
以上是生活随笔為你收集整理的细思极恐!聊天机器人爱上用户并试图让其跟妻子离婚的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 美光将裁员比例从 10% 提升至 15%
- 下一篇: fatal: Could not rea