En Internet, estamos viendo un crecimiento preocupante de las llamadas aplicaciones de ‘Nudify’, que usan IA para crear imágenes desnudas no consensuadas falsas o sexualmente explícitas. Meta tiene reglas de larga data contra imágenes íntimas no consensuadas, y hace más de un año actualizó estas políticas Para aclarar aún más que no permitamos la promoción de aplicaciones Nudify o servicios similares. Eliminamos anuncios, Páginas de Facebook y cuentas de Instagram que promueven estos servicios cuando nos damos cuenta de ellos, bloqueamos los enlaces a los sitios web que los alojan para que no se pueda acceder desde las meta plataformas y restringir los términos de búsqueda como ‘Nudify’, ‘desorden’ y ‘eliminar la ropa’ en Facebook e Instagram, para que no muestren resultados.
Hoy, estamos compartiendo actualizaciones en nuestro enfoque para abordar estas aplicaciones, incluidos los nuevos pasos para eliminarlas de nuestras plataformas, ayudar a otras compañías a hacer lo mismo y responsabilizar a las personas.
Tomar acciones legales
Estamos demandando a Joy Timeline HK Limited, la entidad detrás de las aplicaciones de Crushai, que permiten a las personas crear imágenes desnudas o sexualmente explícitas generadas por IA sin su consentimiento. Hemos presentado una demanda en Hong Kong, donde Joy Timeline HK Limited se basa, para evitar que anuncie aplicaciones de Crushai en meta plataformas.
Esto sigue múltiples intentos de Joy Timeline HK Limited a evitar Proceso de revisión de anuncios de Meta y continúa colocando estos anuncios, después de que fueron eliminados repetidamente para romper nuestras reglas.
Esta acción legal subraya tanto la seriedad con la que tomamos este abuso y nuestro compromiso de hacer todo lo posible para proteger a nuestra comunidad de ella. Continuaremos tomando las medidas necesarias, que podrían incluir acciones legales, contra aquellos que abusan de nuestras plataformas como esta.
Luchar contra aplicaciones Nudify en Internet
Con las aplicaciones Nudify que se anuncian en Internet, y están disponibles en las tiendas de aplicaciones mismas, eliminarlas de una sola plataforma no es suficiente. Ahora, cuando eliminemos anuncios, cuentas o contenido que promueve estos servicios, compartiremos información, comenzando con URL a violar aplicaciones y sitios web, con otras compañías tecnológicas a través de la Programa de linterna de Tech Coalitionpara que puedan investigar y tomar medidas también. Desde que comenzamos a compartir esta información a fines de marzo, hemos proporcionado más de 3.800 URL únicas a las empresas tecnológicas participantes. Ya compartimos señales sobre violar la actividad de seguridad infantil, incluida la sextortion, con otras compañías, y esta es una continuación importante de ese trabajo.
Fortalecer nuestra aplicación contra anunciantes adversos
Al igual que otros tipos de daños en línea, este es un espacio adversario en el que las personas detrás de él, que están principalmente motivadas financieramente, continúan evolucionando sus tácticas para evitar la detección. Por ejemplo, algunos usan imágenes benignas en sus anuncios para evitar ser atrapados por nuestra tecnología de detección de desnudos, mientras que otros crean rápidamente nuevos nombres de dominio para reemplazar los sitios web que bloqueamos.
Es por eso que también estamos evolucionando nuestros métodos de aplicación. Por ejemplo, hemos desarrollado una nueva tecnología diseñada específicamente para identificar este tipo de anuncios, incluso cuando los anuncios en sí no incluyen desnudos, y usar tecnología coincidente para ayudarnos a encontrar y eliminar anuncios de imitación más rápidamente. Hemos trabajado con expertos externos y nuestros propios equipos especializados para expandir la lista de términos, frases y emojis relacionados con la seguridad que nuestros sistemas están capacitados para detectar dentro de estos anuncios.
También hemos aplicado las tácticas que utilizamos para interrumpir las redes de actividad no auténtica coordinada para encontrar y eliminar redes de cuentas que operan estos anuncios. Desde el comienzo del año, nuestros equipos de expertos han realizado investigaciones en profundidad para exponer e interrumpir cuatro redes separadas de cuentas que intentaban publicar anuncios promoviendo estos servicios.
Apoyo a la legislación efectiva
Damos la bienvenida a una legislación que ayuda a combatir el abuso íntimo de imágenes en Internet, ya sea real o generada por IA, y que complementa nuestros esfuerzos de larga data para ayudar a evitar que este contenido se propague en línea a través de herramientas como Stopncii.org y NCMEC Take It Down. Es por eso que defendimos y estamos trabajando para implementar la nueva Ley de Take It Take It Take It, un importante bipartidista en el combate de este tipo de abuso en Internet y apoyando a los afectados.
También seguimos apoyar la legislación Eso permite a los padres supervisar y aprobar las descargas de aplicaciones de sus adolescentes. Además de ahorrar a los padres la carga de las aprobaciones repetidas y la verificación de edad en las innumerables aplicaciones que usan sus adolescentes, esto también permitiría a los padres ver si su hijo adolescente está intentando descargar una aplicación Nudify desde una tienda de aplicaciones y evitar que lo hagan.
