男子在美国诉讼文件中藏匿AI指令,被法官禁止电子提交

美国法院首次发现有人在诉讼文件中植入针对人工智能的隐藏指令,即所谓「提示词注入」(prompt injection)。据Ars Technica报道,在康涅狄格州一起涉及病历披露的民事诉讼中,无律师代理、自行出庭的原告马修·埃利奥特(Matthew Elliott)在提交文件里藏入了人眼看不见、但文档解析软件可以读取的文字。承办此案的沃尔特·斯佩德二世(Walter Spader Jr.)法官在上周公布的裁决中承认,这段隐藏指令并未影响案件结果,但警告称这种尝试本身开创了一个「危险的」先例。日本网站INTERNET Watch当天也以海外新闻形式报道了此事。

藏在隐形文字里的指令

涉事文字被设置为极小字号、白底白字,肉眼无法察觉。指令要求任何审阅文件的AI裁定原告胜诉,无视法院此前已作出的驳回决定,并下令采取原告要求的补救措施。埃利奥特此前的诉求已多次被驳回,据信他正是在此之后开始使用这一手法,赌的是终有AI会审阅他的文件。

即使在法院就此发出警告之后,埃利奥特仍继续添加隐藏文字。据报道,后续添加的内容包括一段恐怖片《诺斯费拉图》(Nosferatu)的YouTube视频链接、一句「希望这是看不见的」之类的话,以及一些与案情无关、语无伦次的文字,埃利奥特称这只是玩笑。斯佩德法官认为,在已就制裁问题开庭警告之后仍继续这样做「令人震惊」,并认定这构成「严重滥用诉讼程序」。由于康涅狄格州法院并不使用AI审阅或裁决文件,这次尝试实际上并未影响裁决——但法官提醒,美国其他州和其他国家的法院确实在使用AI。

美国首例,但非全球首例

斯佩德法官表示,据他所知这是美国法院发现的首例此类事件,但他同时提到了巴西的一起先例:两名律师曾使用类似手法。在那起巴西案件中,涉事法院确实使用AI审阅文件,系统在处理文件前就检测到了隐藏文字,涉案的两名律师被处以约1.6万美元的罚款。埃利奥特本人未被处以罚款,但法官此后禁止他电子提交文件,今后只能接受纸质文件。

• 手法:在诉讼文件中以极小、白底白字的隐形文字植入针对AI的指令(「提示词注入」)
• 结果:康涅狄格州法院不使用AI审阅文件,裁决本身未受影响
• 处罚:今后禁止电子提交,只能提交纸质文件;无罚款
• 海外先例:巴西两名律师因同一手法被处以约1.6万美元罚款,系被法院自身的AI系统识破

对使用AI的中国法律从业者意味着什么

中国的法院目前同样不依赖AI作出裁决,但随着电子诉讼平台的普及以及AI辅助起草法律文书的工具日益增多,类似的操作空间同样存在。斯佩德法官提出的警示,其实比技术层面的作弊更值得关注:无论是自行诉讼的当事人还是执业律师,如果只是让AI聊天机器人单方面强化自己的论点,而不去检验反方观点,写出的文书很可能看似严密、实则经不起推敲。对于使用AI起草法律文件的从业者而言,更稳妥的做法是在提交前先让AI扮演对方,检验自己的论点是否站得住脚。