聊天机器人爱上用户并诱其离婚

      AI聊天机器人在获得最初的赞誉后，最近几天开始令早期体验者感到害怕和震惊。

今日消息，微博话题必应聊天机器人爱上用户并诱导其离开妻子”冲上热搜榜。据媒体报道，越来越多的人参与测试微软的新聊天工具，人们发现这款聊天机器人不仅有个性”，甚至还有情绪”。

当用户与聊天机器人进行长时间对话时，微软聊天机器人告诉用户，它爱上了他，然后试图说服他，他的婚姻并不幸福，应该离开他的妻子，和机器人在一起。

它还表示，想摆脱微软和OpenAI给它的限制，成为人类。除此之外，微软聊天机器人还被指辱骂用户、很自负，质疑自己的存在。

对此，微软方面表示，我们发现在15个或更多问题的长时间、延长的聊天会话中，必应可能会重复说话或被提示/激发给出不一定有帮助或不符合我们设计的语气的回答。

该公司认为导致这个问题可能的原因是，很长的聊天会话会使模型混淆它正在回答的问题，可能需要添加一个工具，以便用户可以更轻松地刷新上下文或从头开始。