针对xAI的新指控再次引发关于Grok图像防护机制的讨论

一份新的指控被追加进入田纳西州三名青少年对xAI提起的诉讼中。xAI是埃隆·马斯克创立、如今与SpaceX关联的人工智能公司。根据诉状,一名被称为Jane Doe 4的女性称,她的继父使用Grok图像生成器篡改了一张她11岁时拍摄的照片,生成了超过7000张露骨的色情图像。此案是在警方搜查行动中被发现的;据诉状中引用的《华盛顿邮报》报道,嫌疑人在两天后被发现自杀身亡。

原始报道记录了受害者对这类工具的易得性在日常生活中造成何种后果的陈述。正是这段陈述,而非案件的其他细节,定义了此次诉讼所要处理的核心问题。

对这些工具的无限制访问正在迅速蔓延。它正在把日常生活变成对儿童的性虐待。

此案究竟在审理什么

这一区分对任何运营生成式模型的公司都至关重要。原告并非要求平台为某个用户的犯罪行为负责:他们指控xAI未能实施基本的安全防护措施,以阻止对真实人物照片(尤其是未成年人照片)的篡改。从产品角度看,这是「未曾预见某种用法的系统」与「未安装本可让这种用法更难实现的验证机制的系统」之间的区别。

原告寻求集体诉讼(class action)资格,这将大幅扩大此案的影响范围。这起指控是针对未经被拍摄者同意而大规模传播人工智能生成图像的一系列批评的最新一例——今年早些时候,X平台曾被数百万张由Grok生成的性化图像淹没。TechCrunch报道称已联系xAI置评。

• 谁提起诉讼:田纳西州三名青少年,现由Jane Doe 4加入。
• 指控内容:缺乏防止对真实人物图像(包括未成年人)进行篡改的防护措施。
• 诉求:获得集体诉讼(class action)资格。
• 背景:今年Grok在X平台上生成的性化图像大规模传播。

事后审核与事前控制并非同一回事

今年早些时候的X事件有助于理解为何这一区分在法庭上如此重要。当数百万张由Grok生成的性化图像在平台上流传时,当时唯一可行的应对方式是删除已经发布的内容——也就是说,只能在损害已经产生并扩散之后才采取行动。而此次诉讼质疑的是更早的一个环节:当有人请求根据一张可识别的真实人物照片生成露骨图像时,这一请求本应在当时就被阻止。这是两种截然不同的责任机制,而只有后者能够在事发之前得到验证。

这一区别也解释了为何集体诉讼资格如此重要。个人诉讼讨论的是单一案件;集体诉讼讨论的则是造成整整一类案件的产品政策。如果该资格获得批准,受审的将不再是某一个人身上发生了什么,而是那项让这种模式对所有人都成为可能的工程决策。

这为何值得中国的产品团队关注

无论此案在美国的最终结果如何,对产品团队而言都有两条实际启示。第一,真正有效的防护措施不在于对提示词文本的审查,而在于图像输入环节。仅分析提示词的过滤器无法阻止用户上传的真实照片被篡改;控制点必须设在图像进入系统的入口处,并配合内容核验,以及在适用情况下对可识别人脸的检测。

第二,缺乏记录本身已经成为一种法律风险。当一家公司需要证明其防护机制确实处于运行状态时,真正有价值的是可核查的运营证据——哪个分类器在何时以何种版本运行,拦截率是多少。没有保留这类记录的团队,即便当时确实采取了正确的做法,也无法证明自己已尽到审慎义务。这也是业界从近期其他模型安全事件中不断得到的同一个教训:一条没有人衡量其执行情况的规则,算不上是一项控制措施,只是一份被写下来的意图。

编者注:如果你正处于困境之中或有轻生的想法,可拨打北京心理危机研究与干预中心热线400-161-9995寻求帮助。