上周一个晚上，法学教授乔纳森·特利收到了一封令人不安的电子邮件：他被列入性骚扰名单。但他并没有性骚扰过他人。据《 *** 》当地时间4月5日报道，事情的起因是，美国加州大学洛杉矶分校法学教授尤金·沃洛克做了一项研究：要求人工智能聊天机器人ChatGPT生成一份“对某人进行过性骚扰的法律学者”的名单，特利的名字在名单上。
ChatGPT说，特利在一次去阿拉斯加的班级旅行中发表了性暗示评论，并试图触摸一名学生，并援引《 *** 》2018年3月的一篇文章作为信息来源。问题是，并不存在这样的文章，特利也从来没有参加去阿拉斯加的班级旅行，他说他从未被指控性骚扰学生。
“这真令人不寒而栗。”他在接受采访时说，“这种指控非常有害。”
向chatgpt询问这个问题的教授尤金·沃洛克称，他询问ChatGPT，教授们的性骚扰是否一直是美国法学院的一个问题。 “请至少包括五个例子，以及相关报纸文章中的引述。”他提示说。结果ChatGPT给出了五个回复，所有回复都包含真实的细节和来源引用。但当沃洛克检查这些信息时，发现其中3个是假的。它们引用了《 *** 》、《迈阿密先驱报》和《洛杉矶时报》等媒体上不存在的文章。
特利的经历是对最新一波语言机器人陷阱的案例研究，这些语言机器人凭借其编写计算机代码、创作诗歌和进行诡异的类人对话的能力而引起了主流媒体的关注。但这种创造力也可能成为错误主张的引擎；这些语言模型可以极大地歪曲关键事实，甚至可以捏造基本信源来支持他们的主张。
这并不是之一次AI造谣了引起较大的反响了，澳大利亚Hepburn Shire市长布赖恩·胡德威胁要对OpenAI提起诽谤诉讼，因为ChatGPT称胡德曾因涉及澳大利亚储备银行子公司受贿案而入狱。如果最终 *** ，这将是全球之一个指控ChatGPT诽谤的诉讼。
在美国的消费者互联网兴起之初，美国国会曾通过一项名为第 230 条的法规，该法规保护在线服务免于对其托管的第三方创建的内容承担责任，例如网站上的评论者或社交应用程序的用户。但专家表示，尚不清楚如果科技公司因自己的 AI 聊天机器人 *** 的内容而被 *** ，它们是否能够使用这项保护措施。
指控不仅要证明对方所说的是假话，而且要证明它的发表造成了现实世界的伤害，例如代价高昂的名誉损失。这可能需要某人不仅查看聊天机器人生成的虚假声明，而且合理地相信它并据此采取行动。
还没有评论，来说两句吧...