人工智能展现了其威力。
在美国，一名25岁的男子因为上班时对人工智能聊天工具ChatGPT详细描述了强奸并杀害其前女友的计划，而被该工具的开发商OpenAI发现后举报给了联邦调查局（FBI）。
人工智能公司通常会借助多标签有害内容分类模型，精确识别暴力、仇恨言论、性侵害等不同类别的风险内容。此外，还会从情绪强度和语气意图层面补充评估风险级别。
依据OpenAI的内部政策，一旦后台监测到用户可能策划伤害他人，便会启动人工审核程序。若被判定为高危险等级，公司甚至可以向执法机构提供相关对话记录，作为案件侦破的参考依据。
法庭相关文件披露，这名男子名叫Darren Zhou，看上去是亚裔人士。案发时，他在佛罗里达州西棕榈滩担任高盛分析师。
今年3月的时候，Darren在工作之余开始向ChatGPT倾诉自己刚结束的恋情。起先他只是谈论过往的回忆，以及希望复合的心情。但很快，话题就转变成了涉及强奸、谋杀，甚至杀人后自杀等内容。
他曾这样告诉ChatGPT，“我打算在本月底杀了她。若是我得不到她，其他人也别想得到。”
他还向人工智能详述了周密的报复方案：计划在健身房停车场用鲜花引诱前女友，若她拒绝复合，就打算掏枪杀人，然后自杀。不仅如此，他还给受害者寄去了AR-15步枪、格洛克手枪、12号霰弹枪、塑料拉链和乳胶手套的照片，以此进行恐吓。
尽管Darren被对方多次拉黑，但他还是持续利用各种应用生成的虚拟号码骚扰前女友。在女孩21岁生日那天，他还发送了包含其最新住址的明确性侵威胁。
这位同样来自佛罗里达州的女子向调查人员表示，对Darren仍存有愧疚，因而没有立刻报警，但内心确实感到害怕，担心其行为会进一步升级。她之前提出分手，正是因为对方行为不稳定、嫉妒心重且控制欲强。
FBI探员将人工智能的对话记录与女子收到的威胁信息关联分析后，认定Darren已构成足够的人身安全威胁，于是于5月将其逮捕。Darren缴纳了10万美元保释金后获得了假释。
高盛得知这些指控后，在6月决定与他终止雇佣关系。
Darren面临的指控包括发出杀人或伤害他人的威胁，以及以明确的人身威胁实施严重的跟踪骚扰行为。8月13日，他在法庭上认罪，并被判处5年缓刑。
这起案件也促使业界就AI聊天隐私边界展开了讨论：平台在何种程度上有权监测用户私人对话，以及什么时候可以决定将用户的对话内容提交给执法部门。
网友评论