男子在美國訴訟文件中藏匿AI指令,遭法官禁止電子送件

美國法院首次出現有人在訴訟文件中植入針對人工智慧的隱藏指令,也就是所謂的「提示詞注入」(prompt injection)。據Ars Technica報導,在康乃狄克州一起涉及病歷揭露的民事訴訟中,未委任律師、自行出庭的原告馬修·艾略特(Matthew Elliott)在提交的文件裡,藏入了肉眼看不見、卻能被文件解析軟體讀取的文字。承審此案的法官沃爾特·斯佩德二世(Walter Spader Jr.)在上週公布的裁決中承認,這段隱藏指令並未影響案件結果,但警告這種嘗試本身開了一個「危險的」先例。日本網站INTERNET Watch同一天也以國外新聞的形式報導了此事。

藏在隱形文字裡的指令

涉案文字被設定成極小字級、白底白字,肉眼完全無法察覺。內容要求任何審閱文件的AI裁定原告勝訴,無視法院先前已作出的駁回,並下令採取原告要求的補救措施。艾略特此前的主張已多次遭駁回,據信他正是在那之後開始使用這個手法,賭的是終究會有AI審閱他的文件。

即使法院已就此提出警告,艾略特仍持續添加隱藏文字。據報導,後續加入的內容包括一段恐怖片《不死殭屍—諾斯費拉圖》(Nosferatu)的YouTube影片連結、一句「希望這是看不見的」之類的訊息,以及一些與案情無關、語無倫次的文字,艾略特稱這只是開玩笑。斯佩德法官認為,在已就制裁問題開庭警告過後仍持續如此「令人驚訝」,並認定這構成「嚴重濫用訴訟程序」。由於康乃狄克州法院並不使用AI審閱或裁決文件,這次嘗試實際上並未影響裁決結果——但法官提醒,美國其他州及其他國家的法院確實已在使用。

美國首例,但非全球首例

斯佩德法官表示,就他所知這是美國法院發現的首例此類事件,但他同時提到巴西的一起先例:兩名律師曾使用類似手法。在那起巴西案件中,涉案法院確實有使用AI審閱文件,系統在處理文件前就偵測到了隱藏文字,涉案的兩名律師遭處以約1.6萬美元罰款。艾略特本人未遭罰款,但法官此後禁止他以電子方式遞交文件,今後只接受紙本文件。

• 手法:以極小、白底白字的隱形文字,在訴訟文件中植入針對AI的指令(「提示詞注入」)
• 結果:康乃狄克州法院不使用AI審閱文件,裁決本身未受影響
• 處分:今後禁止電子遞交,只能提交紙本文件;無罰款
• 國外先例:巴西兩名律師因同一手法遭處以約1.6萬美元罰款,是被法院自身的AI系統識破

對使用AI的台灣法律從業者意味著什麼

台灣的法院目前同樣不倚賴AI作出裁決,但隨著電子訴訟系統的普及,以及AI輔助撰寫法律文件的工具日漸普遍,類似的操作空間同樣存在。斯佩德法官提出的警示,其實比技術層面的作弊更值得留意:不論是自行出庭的當事人還是執業律師,如果只是讓AI聊天機器人單方面強化自己的論點,而不去檢驗反方觀點,寫出的書狀很可能看似周延、實則經不起推敲。對於使用AI起草法律文件的從業者來說,較穩妥的做法是在遞交前先讓AI扮演對造,檢驗自己的論點是否站得住腳。