AI劝人离婚？微软对ChatGPT版Bing设限制防失控
微软结合爆红的ChatGPT聊天机器人，推出新版Bing搜寻引擎，从上周开始进行有限制的公开测试，数百万人排队注册，虽然有超过71%使用者回馈对新版Bing感到满意，但也不少用户发现，新版Bing在某些情况下会出现精神错乱的言论，甚至是有侮辱性的回应，仿佛有第二人格。
一名使用者表示，他跟新版Bing进行了2小时的聊天对话，结果新版Bing竟然跟他告白，还劝他跟妻子离婚，让他相当震惊。
微软坦承新版Bing存有缺陷，如果是一连串的提问，超过15个问题或更长，有时候会让模型混淆，以至于给出不合理的答案。微软随后再公布新措施，将做出使用限制。微软表示，新版Bing对话将被限制一次5个问题，每天50个问题，据数据调查，多数使用者在5个问题内就能找到答案，如果用户达到限制，新版Bing会提示使用者开始一个新主题来避免长时间的聊天。
Sat, 18 Feb 2023 04:12:10 GMT 原文链接🔗：