針對xAI的新指控再度引爆Grok圖像防護機制的爭議

一份新的指控被追加進入田納西州三名青少年對xAI提起的訴訟中。xAI是伊隆·馬斯克創立、如今與SpaceX有關聯的人工智慧公司。根據訴狀,一名化名為Jane Doe 4的女性表示,她的繼父使用Grok圖像生成器竄改了一張她11歲時拍攝的照片,產生了超過7,000張露骨的色情圖像。此案是在警方搜索行動中被發現的;根據訴狀中引用的《華盛頓郵報》報導,嫌疑人在兩天後被發現自殺身亡。

原始報導記錄了受害者對這類工具的易得性在日常生活中造成何種後果的陳述。正是這段陳述,而非案件的其他細節,定義了此次訴訟所要處理的核心問題。

對這些工具的無限制取得正在迅速蔓延。它正把日常生活變成對兒童的性虐待。

此案究竟在審理什麼

這項區別對任何營運生成式模型的公司都至關重要。原告並非要求平台為某位使用者的犯罪行為負責:他們指控xAI未能實施基本的安全防護機制,以阻止真實人物照片(尤其是未成年人照片)遭到竄改。從產品角度看,這是「未曾預見某種用法的系統」與「未安裝本可讓這種用法更難得逞的驗證機制的系統」之間的差別。

原告尋求集體訴訟(class action)資格,這將大幅擴大此案的影響範圍。這起指控是針對未經被拍攝者同意而大規模散布人工智慧生成圖像的一系列批評中的最新一例——今年稍早,X平台曾被數百萬張由Grok生成的性化圖像淹沒。TechCrunch報導指出已聯繫xAI要求置評。

• 誰提起訴訟:田納西州三名青少年,現由Jane Doe 4加入。
• 指控內容:缺乏防止真實人物圖像(包括未成年人)遭竄改的防護機制。
• 訴求:取得集體訴訟(class action)資格。
• 背景:今年Grok在X平台上生成的性化圖像大規模流傳。

事後審核與事前防範並非同一回事

今年稍早的X事件有助於理解為何這項區別在法庭上如此重要。當數百萬張由Grok生成的性化圖像在平台上流傳時,當時唯一可行的因應方式是移除已經發布的內容——也就是說,只能在傷害已經造成並擴散之後才採取行動。而此次訴訟質疑的是更早的一個環節:當有人要求根據一張可辨識的真實人物照片生成露骨圖像時,這項請求本應在當下就被阻止。這是兩種截然不同的責任機制,而只有後者能夠在事發之前得到驗證。

這項差異也說明了為何集體訴訟資格如此重要。個別訴訟討論的是單一案件;集體訴訟討論的則是造成整整一類案件的產品政策。若此資格獲准,受審的將不再是某一個人身上發生了什麼事,而是那項讓這種模式對所有人都成為可能的工程決策。

這為何值得台灣的產品團隊關注

無論此案在美國的最終結果如何,對產品團隊而言都有兩項實際啟示。第一,真正有效的防護機制不在於對提示詞文字的審查,而在於圖像輸入環節。僅分析提示詞的過濾器無法阻止使用者上傳的真實照片遭到竄改;控制點必須設在圖像進入系統的入口處,並搭配內容核驗,以及在適用情況下對可辨識人臉的偵測。

第二,缺乏紀錄本身已經成為一種法律風險。當一家公司需要證明其防護機制確實處於運作狀態時,真正有價值的是可核查的營運證據——哪個分類器在何時以何種版本運行,攔截率是多少。沒有保留這類紀錄的團隊,即便當時確實採取了正確的做法,也無法證明自己已盡到應有的注意義務。這也是業界從近期其他模型安全事件中不斷得到的同一個教訓:一條沒有人衡量其執行情況的規則,稱不上是一項控制措施,只是一份被寫下來的意圖。

編按:如果你正處於困境之中或有輕生的念頭,安心專線1925提供免費、24小時的協助,適用於台灣地區。