Meta が AI 検証 を 追加し 、 児童性的 虐待 素材 へ 誘導 する 広告 を 検出

同社 は 今後 は 大規模 言語モデル を 使用 して 、 広告 の 視覚的 コンテンツ だけでなく 、 外部サイト の 違法 または 有害 な 活動 を 指し示す 「 サインポスティング 」 と なる 可能性 のある テキスト も 分析 する と 発表 しました 。 Meta によれば 、 この アプローチ により 、 外見上 は ポリシー に 準拠 している よう に 見えても 、 未成年者 の 性的 搾取 素材 への 入口 と なる キャンペーン を 特定 できる と のことです 。

AI に 基づく 検出 の 仕組み

新しい アルゴリズム は 広告 の テキスト を 分析 し 、 児童搾取 に 関連 する キーワード と 言語 パターン の データベース と 照合 します 。 モデル が サインポスティング の 兆候 を 検出 すると 、 審査 は 表示 された ビジュアル のみ でなく 、 広告 に 含まれる リンク の 行き先 を 考慮 します 。 URL が 虐待 素材 を ホスト する サイト に つながっている 場合 、 広告 は 即座 に ブロック され 、 責任 アカウント は 追加 の セキュリティ 対策 を 受けます 。

強化 対策 と 社内 監査

リアルタイム 検出 に 加えて 、 Meta は 既に 公開 された 広告 を 再検査 する 遡及 スキャン を 開始 し 、 以前 の システム が 捕捉 できなかった コンテンツ を 特定 します 。 同社 は また 「 レッドチーミング 」 エージェント の 存在 を 説明 し 、 侵害者 が 使用 する 新しい 回避 手法 を 事前 に 発見 する ため に 回避 試行 を シミュレート します 。 この プロセス は フィルタ を 常に 更新 し 、 ますます 洗練 された 戦略 に 対抗 できる よう に する こと を 目的 と しています 。

Meta は バン された 後 に 新規 プロファイル を 作成 する アカウント の 監視 も 強化 しました 。 疑わしい 行動 パターン が 認識 される と 、 プラットフォーム は アカウント を 無効 化 し 、 広告 スキーム に 関連 する 外部 リンク を ブロック します 。 これら の 対策 は 既に 児童性的 虐待 素材 の 発信 源 と 判定 された URL の 自動 ブロック と 組み合わさります 。

公表 された 結果 と 限界

Meta が 公表 した データ による と 、 2026年1月 から 6月 の 間 に インド の Facebook と Instagram で 5.3 百万 件 の 児童性的 搾取 コンテンツ が 「 アクション 」 され 、 98％ 以上 が ユーザー の 通報 前 に 検出 された と されています 。 世界 全体 では 同期間 に 33.2 百万 件 の アイテム が 「 アクション 」 され ました が 、 実際 に 削除 された 件数 や 他 の 抑制 手段 の 詳細 は 明らか に されていません 。

Meta は 98％ の 指標 が 通報 前 に 発見 された コンテンツ のみ を 指す こと を 認めており 、 未検出 の まま 残った 素材 の 量 は 開示 されていません 。 また 、 遡及 スキャン 中 に 承認 、 特定 または 削除 された 隠蔽 広告 の 数量 も 公表 されておらず 、 新ツール の 全体 的 効率 を 評価 する 重要 な ギャップ が 残ります 。

この イニシアチブ は 、 BBC の 調査 に端 を 発し 、 インド の Instagram で 児童性的 虐待 素材 を 宣伝 し 外部 チャネル へ ユーザー を 誘導 する 有料 広告 が 指摘 されました 。 これを受けて 、 インド 当局 は 電子情報 技術 省 (MeitY) 、 子どもの 権利 保護 委員会 、 人権 委員会 など を 巻き込んだ 複数 の 手続き に 着手 しました 。

Meta は 今後 、 児童安全 事案 を インド の 国家 サイバー犯罪 通報 ポータル に 直接 報告 し 、 従来 の 米国 の NCMEC へ 転送 する 方法 を 変更 すると 発表 しました 。 この 変更 は 現地 当局 との 協力 を 強化 し 、 児童搾取 事件 への 対応 を 加速 させる こと を 目的 と しています 。

しかし 、 同社 は アルゴリズム の 正確性 や 偽陽性・偽陰性 の 比率 を 検証 した 独立 監査 を 行っておらず 、 これら の 主張 は 企業 の 発表 に とどまり 、 外部 の 検証 に よる 実効性 の 確認 が なされていません 。

広告主 や プラットフォーム に とって 、 実務 上 の 変更 点 は 、 リンク の 行き先 や アカウント の 履歴 、 周囲 の 行動 が ユーザー を 違法 コンテンツ へ 誘導 しよう と する 試み を 示唆 する 場合 、 無害 に 見える クリエイティブ でも 審査 対象 に なる こと です 。 これにより 、 公開 前 に 人間 による 介入 が 可能 となり 、 広告主 は 自ら の 広告 が 児童搾取 の 隠れ蓋 と ならない よう 責任 を 強化 されます 。