El Centro Nacional para Niños Desaparecidos y Explotados (NCMEC) ha anunciado una nueva plataforma diseñada para ayudar a eliminar imágenes sexualmente explícitas de menores de Internet. Meta reveló en una publicación de blog que había proporcionado fondos iniciales para crear la herramienta gratuita "Take It Down" del NCMEC , que permite a los usuarios denunciar y eliminar de forma anónima "imágenes o videos desnudos, parcialmente desnudos o sexualmente explícitos" de las personas menores de edad encontradas en las plataformas participantes y bloquear el contenido ofensivo para que no se vuelva a compartir.

Facebook e Instagram se han registrado para integrar la plataforma, al igual que OnlyFans, Pornhub y Yubo. Take It Down está diseñado para que los menores autoinformen imágenes y videos de sí mismos; sin embargo, los adultos que aparecieron en dicho contenido cuando tenían menos de 18 años también pueden usar el servicio para denunciarlo y eliminarlo. Los padres u otros adultos de confianza también pueden hacer un informe en nombre de un niño.

Una pregunta frecuente sobre Take It Down establece que los usuarios deben tener la imagen o el video denunciados en su dispositivo para usar el servicio. Este contenido no se envía como parte del proceso de denuncia y, como tal, permanece privado. En cambio, el contenido se usa para generar un valor hash, una huella digital única asignada a cada imagen y video que luego se puede proporcionar a las plataformas participantes para detectarlo y eliminarlo en sus sitios web y aplicaciones, mientras se minimiza la cantidad de personas que ven el contenido real.

“Creamos este sistema porque muchos niños enfrentan estas situaciones desesperadas”, dijo Michelle DeLaune, presidenta y directora ejecutiva de NCMEC. “Nuestra esperanza es que los niños conozcan este servicio y se sientan aliviados de que existan herramientas para ayudar a eliminar las imágenes. El NCMEC está aquí para ayudar”.

El servicio Take It Down es comparable a StopNCII , un servicio lanzado en 2021 que tiene como objetivo evitar el intercambio no consentido de imágenes para personas mayores de 18 años. StopNCII también usa valores hash para detectar y eliminar contenido explícito en Facebook, Instagram, TikTok, y Bumble.

Además de anunciar su colaboración con NCMEC en noviembre del año pasado , Meta lanzó nuevas funciones de privacidad para Instagram y Facebook que tienen como objetivo proteger a los menores que usan las plataformas. Estos incluyen solicitar a los adolescentes que denuncien las cuentas después de bloquear a adultos sospechosos, eliminar el botón de mensaje en las cuentas de Instagram de los adolescentes cuando las ven adultos con un historial de bloqueo y aplicar configuraciones de privacidad más estrictas de forma predeterminada para los usuarios de Facebook menores de 16 años (o 18 en ciertos países).

Otras plataformas que participan en el programa han tomado medidas para prevenir y eliminar contenido explícito que representa a menores. Yubo, una aplicación de red social francesa, ha implementado una gama de herramientas de moderación operadas por humanos y AI que pueden detectar material sexual que representa a menores, mientras que Pornhub permite a las personas emitir directamente una solicitud de eliminación de contenido ilegal o no consensuado publicado en su plataforma.

Las cinco plataformas participantes han sido criticadas anteriormente por no proteger a los menores de la explotación sexual. Un informe de BBC News de 2021 descubrió que los niños podían eludir fácilmente los sistemas de verificación de edad de OnlyFans , mientras que Pornhub fue demandado por 34 víctimas de explotación sexual el mismo año , alegando que el sitio se benefició a sabiendas de videos que mostraban violaciones, explotación sexual infantil, tráfico y otros. Contenido sexual no consentido. Yubo, descrito como "Tinder para adolescentes", ha sido utilizado por depredadores para contactar y violar a usuarios menores de edad , y el NCMEC estimó el año pasado.que el plan de Meta para aplicar el cifrado de extremo a extremo a sus plataformas podría ocultar efectivamente el 70 por ciento del material de abuso sexual infantil actualmente detectado e informado en su plataforma.

“Cuando las empresas de tecnología implementan el cifrado de extremo a extremo, sin medidas preventivas integradas para detectar material conocido de abuso sexual infantil, el impacto en la seguridad de los niños es devastador”, dijo DeLaune ante el Comité Judicial del Senado a principios de este mes .

Un comunicado de prensa de Take It Down menciona que las plataformas participantes pueden usar los valores hash proporcionados para detectar y eliminar imágenes en "sitios y aplicaciones públicos o sin cifrar". Mitch Henderson, gerente de comunicaciones de Meta, confirmó a The Verge que "Take It Down actualmente funciona con Instagram, Facebook y Facebook Messenger e Instagram DM sin cifrar".