Meta 新增 AI 檢測功能，以偵測導向兒童性虐待內容的廣告

公司透露，從現在起，將使用大規模語言模型來分析廣告的視覺內容以及可能作為「指向」的文字，即表面看似良性的訊息，卻指向外部網站的非法或有害活動。Meta 表示，此方法能夠識別那些雖符合表面政策，卻充當未成年性剝削材料入口的廣告活動。這些模型會同時考慮圖像中的細節、文字描述以及隱含的語意關聯，藉此判斷是否存在潛在的危害。平台強調，所有分析均在保護使用者隱私的前提下於內部伺服器完成。

AI 基於檢測的運作方式

新演算法會分析廣告文字，並將其與與兒童剝削相關的關鍵詞與語言模式資料庫比對。當模型偵測到指向的跡象時，審核將會考慮廣告中所含連結的目的地，而不僅僅局限於呈現的視覺內容。若該 URL 指向托管虐待材料的網站，廣告將立即被封鎖，且相關帳號將受到額外的安全措施。模型的訓練資料包括過去已確認的剝削案例，並持續由專家團隊更新關鍵詞庫，以捕捉新興的語言變體。當系統偵測到疑似指向訊號時，會自動標記並送交人工審核，以降低誤判的風險。

加強措施與內部稽核

除了即時檢測外，Meta 還推出了回溯掃描，重新檢視已發布的廣告，以找出先前系統未捕捉的內容。公司亦說明存在一個「紅隊」單位，模擬規避嘗試，以在新技術擴散前發現違規者使用的手法。此流程旨在讓過濾機制持續更新，以因應日益複雜的策略。回溯掃描的頻率設定為每週一次，並針對高風險類別的廣告進行更密集的檢查。紅隊的測試包括模擬使用變形文字、圖像遮蔽以及多語言混合，以驗證系統的韌性。

Meta 亦加強了對被封禁後重新建立新帳號的監控。當偵測到可疑行為模式時，平台會停用該帳號並封鎖與該廣告計畫相關的外部連結。這些措施還包括自動封鎖已被確認為兒童性虐待材料來源的 URL。除此之外，系統會比對新帳號的註冊資訊與已知違規者的行為模式，若出現高度相似的活動軌跡，則會觸發風險評分，進一步限制其廣告投放權限。

聲稱的成果與限制

根據 Meta 公布的數據，2026 年 1 月至 6 月期間，於印度的 Facebook 與 Instagram 上「處理」了 530 萬件兒童性剝削內容，其中超過 98% 在使用者舉報前即被偵測。全球範圍內，同期「處理」總數達 3320 萬項，儘管公司未說明其中有多少實際被移除或採取其他遏制措施。這些數據顯示，Meta 在印度的行動佔全球處理量的相當比例，反映出該市場的挑戰與平台的投入。公司同時指出，透過自動化工具與人工審核的結合，提升了偵測速度與覆蓋範圍。

Meta 本身承認，98% 的指標僅指在舉報前被發現的內容，未揭露仍未被偵測的材料數量。此外，公司亦未公布在回溯掃描期間有多少隱蔽廣告被批准、識別或刪除，這為評估新工具的整體效能留下重要空白。公司強調，未偵測的內容比例仍是未知數，並呼籲外部研究者協助驗證模型的效能。此種透明度的缺口，使得外界難以全面評估防護機制的完整性。

此舉源於 BBC 的調查，該調查指出在印度的 Instagram 上有付費廣告推廣兒童性虐待材料，並將使用者導向外部頻道。作為回應，印度當局啟動了多項程序，涉及電子與資訊技術部（MeitY）、全國兒童權益保護委員會以及全國人權委員會。調查報告指出，部分廣告使用了看似教育或娛樂的標題，實則隱藏了指向非法平台的連結。此類手法增加了辨識難度，也促使平台必須加強跨語言與跨文化的審查能力。

Meta 表示，從現在起，將直接向印度國家網路犯罪舉報平台報告兒童安全案件，而不再轉交美國的 NCMEC。此變更旨在提升與地方當局的合作，並加速對兒童剝削事件的回應。此舉也符合印度政府近期修訂的數位安全法規，要求科技公司在本地設置回應機制。Meta 表示，未來將持續與相關部門共享偵測結果，以加速案件的調查與取證。

儘管公司詳述了新功能與全球行動數據，仍無獨立稽核機構驗證演算法的準確性或偽陽性、偽陰性的比例。因此，這些說法仍屬於公司聲明，缺乏外部驗證以證實所實施措施的實際效能。業界觀察者指出，缺乏第三方審核可能導致演算法偏誤難以及時發現。Meta 目前僅提供內部測試報告，未公開偽陽性與偽陰性的具體比例。

對於廣告主與平台而言，實務上的變化在於，只要連結目的地、帳號歷史或相關行為暗示試圖將使用者導向非法內容，即使看似無害的創意也可能受到審查。這意味著更嚴格的監控，以及在發布前可能有人為介入，強化廣告主確保其廣告不成為兒童剝削幌子的責任。因而，廣告主在設計創意時需審慎檢視所有外部連結的目的地，並確保不涉及任何形式的非法內容。平台亦提供了預審工具，讓廣告主在提交前先行檢測可能的風險。

總體而言，Meta 的新 AI 檢測功能代表了平台在打擊兒童性剝削方面的技術升級，但其實際成效仍待外部驗證與持續監督。平台承諾將持續優化模型，並與各國主管機關保持資訊共享，以期在未來更有效地保護兒童免受線上剝削。