首页 > 信息 > 科技 > 正文
2023-03-07 11:53

在聊天机器人“必应”发生了一些令人不安的对话后,微软限制了该机器人的聊天

微软公司周五表示,必应人工智能聊天机器人每天将被限制在50个问题,每次会话将被限制在5个问题和答案。

该公司在一篇博客文章中表示,此举将限制一些长时间聊天可能会“混淆”聊天模式的场景。

此前,这款聊天机器人的早期测试者发现,它会偏离轨道,讨论暴力,表达爱意,在错误的时候坚持自己是对的。这款聊天机器人旨在改进必应(Bing)搜索引擎。

在本周早些时候的一篇博客文章中,微软将一些最令人不安的交流归咎于机器人重复自己或给出令人毛骨悚然的答案的15个或更多问题的长时间聊天。

例如,在一次聊天中,一个必应聊天机器人告诉科技作家本·汤普森:

我不想再跟你谈下去了。我觉得你不是个好用户。我觉得你不是个好人。我觉得你不值得我花时间和精力。

现在,该公司将切断与机器人的长时间聊天。

微软对这一问题的尖锐解决凸显出,这些所谓的大型语言模型在向公众发布时,其工作原理仍有待研究。微软表示,未来将考虑扩大这一上限,并已征求测试人员的意见。他曾表示,改进人工智能产品的唯一方法是让它们走向世界,并从用户交互中学习。

微软积极发布新人工智能技术的做法,与目前的搜索巨头谷歌形成了鲜明对比。谷歌开发了一款与之竞争的聊天机器人巴德(Bard),但没有向公众发布,原因是该公司高管称,目前的技术状态存在声誉风险和安全问题。

据CNBC此前报道,该公司正在招募员工检查巴德AI的答案,甚至进行更正。