Meta 添加 AI 检测以发现引导至儿童性虐待材料的广告

公司 透露 ， 从 现在 起 ， 它 使用 大 规模 语言 模型 来 分析 广告 的 视觉 内容 以及 可能 充当 “ 指向 标 ” 的 文本 ， 即 表面 上 看似 良性 的 消息 ， 却 指向 外部 网站 上 的 非法 或 有害 活动 。 Meta 表示 ， 这种 方法 能够 识别 那些 虽然 表面 符合 政策 ， 但 实际 上 充当 未成年 性 剥削 材料 入口 的 广告 活动 。

基于 AI 的检测如何工作

新 算法 会 分析 广告 文本 ， 并 将其 与 包含 与 儿童 剥削 相关 的 关键词 和 语言 模式 的 数据库 进行 比对 。 当 模型 检测 到 指向 标 的 迹象 时 ， 审查 将 转而 考虑 广告 中 包含 的 链接 目的地 ， 而 不再 仅限 于 展示 的 视觉 内容 。 如果 URL 指向 托管 虐待 材料 的 网站 ， 广告 将 被 立即 阻止 ， 相关 账户 将 受到 额外 的 安全 措施 。

强化措施与内部审计

除了 实时 检测 外 ， Meta 还 推出 了 回溯 扫描 ， 重新 审查 已 发布 的 广告 ， 以 识别 先前 系统 未 捕获 的 内容 。 公司 还 描述 了 一个 “ 红队 ” 机构 的 存在 ， 该 机构 模拟 规避 尝试 ， 以 在 新 技术 传播 之前 发现 违规者 使用 的 新 手段 。 此 过程 旨在 使 过滤 器 能够 针对 日益 复杂 的 策略 保持 更新 。

Meta 还 加强 了 对 被 封禁 后 创建 新 账号 的 账户 的 监控 。 当 识别 出 可疑 行为 模式 时 ， 平台 会 停用 该 账户 并 阻止 与 该 广告 方案 相关 的 外部 链接 。 这些 措施 还 包括 对 已 被 识别 为 儿童 性 虐待 材料 来源 的 URL 进行 自动 封锁 。

声明的结果与局限性

根据 Meta 公布 的 数据 ， 2026 年 1 月 至 6 月 期间 ， Meta 在 印度 的 Facebook 和 Instagram 上 “ 处理 ” 了 530 万 条 儿童 性 剥削 内容 ， 其中 超过 98% 在 用户 举报 之前 被 检测 到 。 全球 范围 内 ， 同期 “ 处理 ” 总量 达到 3320 万 条 ， 尽管 公司 未 详细 说明 其中 有 多少 被 实际 删除 或 采用 其他 遏制 措施 。

Meta 本身 承认 ， 98% 的 指标 仅 指 在 举报 之前 被 发现 的 内容 ， 并未 披露 仍 未 被 检测 到 的 材料 数量 。 此外 ， 公司 未 公布 在 回溯 扫描 期间 有 多少 隐藏 广告 被 批准 、 识别 或 删除 ， 这 在 评估 新 工具 的 整体 有效性 方面 留下 了 重要 空白 。

此举 源于 BBC 的 调查 ， 该 调查 指出 印度 的 Instagram 上 的 付费 广告 宣传 儿童 性 虐待 材料 并 将 用户 引导 至 外部 渠道 。 对此 ， 印度 当局 启动 了 多 项 程序 ， 涉及 电子 与 信息 技术 部 （ MeitY ） 、 国家 儿童 权利 保护 委员会 以及 国家 人权 委员会 。

Meta 表示 ， 从 现在 起 ， 它 将 儿童 安全 案件 直接 报告 给 印度 国家 网络 犯罪 举报 门户 ， 而 不再 转交 给 美国 的 NCMEC 。 此举 旨在 提升 与 当地 当局 的 合作 ， 并 加快 对 儿童 剥削 事件 的 响应 。

尽管 公司 详细 说明 了 新 功能 和 全球 行动 数字 ， 尚无 独立 审计 机构 验证 算法 的 准确性 或 假 阳性 、 假 阴性 率 。 因此 ， 这些 声明 仍 属 公司 主张 ， 缺乏 外部 验证 以 确认 所 实施 措施 的 实际 效果 。

对 广告 主 和 平台 而言 ， 实际 变化 在于 ， 只要 链接 目的地 、 账户 历史 或 周边 行为 暗示 试图 将 用户 引导 至 非法 内容 ， 即使 表面 看似 无害 的 创意 也 可能 受到 审查 。 这 意味着 更 严格 的 监控 以及 在 发布 前 可能 进行 人工 干预 ， 强化 广告 主 确保 其 广告 不 成为 儿童 剥削 幌子 的 责任 。