Meta añade verificaciones con IA para detectar anuncios que conducen a material de abuso sexual infantil

La compañía reveló que, a partir de este momento, emplea modelos de lenguaje a gran escala para analizar no solo el contenido visual de los anuncios, sino también el texto que puede actuar como "signposting", es decir, mensajes aparentemente benignos que apuntan a actividades ilegales o nocivas en sitios externos. Según la propia Meta, este enfoque permite identificar campañas que, aunque cumplan con las políticas de apariencia, funcionan como puertas de entrada para material de explotación sexual de menores, ampliando la capacidad de detección más allá de la simple revisión de imágenes.

Cómo funciona la detección basada en IA

Los nuevos algoritmos analizan el texto del anuncio y lo cruzan con bases de datos de palabras‑clave y patrones de lenguaje asociados a la explotación infantil. Cuando el modelo detecta un indicio de signposting, la revisión pasa a considerar el destino del enlace incluido en el anuncio, en lugar de limitarse al aspecto visual presentado. Si la URL lleva a un sitio que aloja material de abuso, el anuncio se bloquea de inmediato y la cuenta responsable está sujeta a medidas de seguridad adicionales, lo que refuerza la prevención proactiva.

Medidas de refuerzo y auditoría interna

Además de la detección en tiempo real, Meta lanzó escaneos retroactivos que revisitan anuncios ya publicados para identificar contenidos que los sistemas anteriores no capturaron. La empresa también describe la existencia de un equipo de "red‑teaming", que simula intentos de evasión para descubrir nuevas técnicas usadas por infractores antes de que estas se difundan. Este proceso busca mantener los filtros actualizados frente a estrategias cada vez más sofisticadas, garantizando una respuesta continua y adaptativa.

Meta también ha reforzado la monitorización de cuentas que crean nuevos perfiles después de haber sido bloqueadas. Cuando se reconoce un patrón de comportamiento sospechoso, la plataforma desactiva la cuenta y bloquea los enlaces externos asociados al esquema publicitario. Estas acciones se complementan con un bloqueo automático de URLs que ya han sido identificadas como fuentes de material de abuso sexual infantil, creando una capa adicional de protección contra la re‑entrada de contenido prohibido.

Resultados declarados y limitaciones

De acuerdo con los números divulgados por Meta, entre enero y junio de 2026 se "accionaron" 5,3 millones de piezas de contenido de explotación sexual infantil en Facebook e Instagram en la India, con más del 98 % detectado antes de ser denunciado por usuarios. A nivel global, el total "accionado" ascendió a 33,2 millones de ítems en el mismo período, aunque la empresa no detalla cuántos fueron eliminados efectivamente frente a otras medidas de contención.

Meta reconoce que el indicador del 98 % se refiere únicamente al contenido encontrado antes de una denuncia, sin revelar la cantidad de material que permaneció indetectado. Además, la compañía no ha publicado cuántos anuncios encubiertos fueron aprobados, identificados o eliminados durante la revisión retroactiva, dejando una laguna importante para la evaluación de la eficacia global de las nuevas herramientas.

La iniciativa surge tras una investigación de la BBC que señaló anuncios pagados en Instagram, en la India, que promovían material de abuso sexual infantil y dirigían a los usuarios a canales externos. En respuesta, las autoridades indias iniciaron varios procedimientos, involucrando al Ministerio de Electrónica y Tecnologías de la Información (MeitY), la Comisión Nacional para la Protección de los Derechos del Niño y la Comisión Nacional de Derechos Humanos.

Meta informó que, a partir de ahora, reporta casos de seguridad infantil directamente al Portal Nacional de Denuncias de Crímenes Cibernéticos de la India, en lugar de enviarlos al NCMEC, organismo norteamericano. Este cambio pretende mejorar la cooperación con las autoridades locales y acelerar la respuesta a incidentes de explotación infantil, facilitando una comunicación más directa y eficaz.

Aunque la empresa ha detallado las nuevas funcionalidades y los números globales de acción, ningún auditor independiente ha verificado la precisión de los algoritmos ni la tasa de falsos positivos o falsos negativos. Por lo tanto, las afirmaciones permanecen como declaraciones corporativas, sin una validación externa que confirme la eficacia real de las medidas implementadas.

Para anunciantes y plataformas, el cambio práctico consiste en que creatividades aparentemente inocentes pueden ser objeto de revisión siempre que el destino del enlace, el historial de la cuenta o el comportamiento circundante sugieran un intento de dirigir a los usuarios a contenido ilegal. Esto implica una vigilancia más rigurosa y la posibilidad de intervención humana antes de la publicación, reforzando la responsabilidad de los anunciantes de garantizar que sus anuncios no sirvan de fachada para la explotación infantil.