Esta historia contiene descripciones de contenido sexual explícito y violencia sexual.
El chatbot Grok de Elon Musk ha provocado indignación y pide una investigación después de haber sido utilizado para inundar X con imágenes «desnudas» de mujeres e imágenes sexualizadas de lo que parecen ser menores. Sin embargo, esa no es la única forma en que la gente ha estado utilizando la IA para generar imágenes sexualizadas. El sitio web y la aplicación de Grok, que son independientes de X, incluyen una generación de video sofisticada que no está disponible en X y se utiliza para producir imágenes sexuales de adultos extremadamente gráficas, a veces violentas, que son mucho más explícitas que las imágenes creadas por Grok en X. También pueden haberse utilizado para crear videos sexualizados de aparentes menores.
A diferencia de X, donde la producción de Grok es pública de forma predeterminada, las imágenes y videos creados en la aplicación o sitio web de Grok usando su modelo Imagine no se comparten abiertamente. Sin embargo, si un usuario ha compartido una URL de Imagine, cualquiera puede verla. Un caché de alrededor de 1200 enlaces de Imagine, además de una revisión por cable de aquellos indexados por Google o compartidos en un foro de pornografía deepfake, muestra videos sexuales perturbadores que son mucho más explícitos que las imágenes creadas por Grok en X.
Un video fotorrealista de Grok, alojado en Grok.com, muestra a un hombre y una mujer completamente desnudos generados por IA, cubiertos de sangre en todo el cuerpo y la cara, teniendo relaciones sexuales, mientras otras dos mujeres desnudas bailan en el fondo. El vídeo está enmarcado por una serie de imágenes de personajes de estilo anime. Otro vídeo fotorrealista muestra a una mujer desnuda generada por IA con un cuchillo insertado en sus genitales, con sangre apareciendo en sus piernas y en la cama.
Otros videos cortos incluyen imágenes de celebridades femeninas de la vida real involucradas en actividades sexuales, y una serie de videos también parecen mostrar a presentadoras de noticias de televisión levantándose la blusa para exponer sus senos. Un vídeo producido por Grok muestra una grabación de imágenes de CCTV que se reproducen en la televisión, donde un guardia de seguridad acaricia a una mujer en topless en medio de un centro comercial.
Varios videos, probablemente creados para tratar de evitar los sistemas de seguridad de contenido de Grok, que pueden restringir el contenido gráfico, se hacen pasar por carteles de “películas” de Netflix: dos videos muestran una representación de inteligencia artificial desnuda de Diana, princesa de Gales, teniendo relaciones sexuales con dos hombres en una cama con una superposición que representa los logotipos de Netflix y sus series. la corona.
Alrededor de 800 de las URL archivadas de Imagine contienen videos o imágenes creadas por Grok, dice Paul Bouchaud, investigador principal de AI Forensics, una organización sin fines de lucro con sede en París, que revisó el contenido. Todas las URL se han archivado desde agosto del año pasado y representan sólo una pequeña instantánea de cómo la gente ha utilizado Grok, que probablemente ha creado millones de imágenes en total.
«Son contenido abrumadoramente sexual», dice Bouchaud sobre el caché de 800 vídeos e imágenes archivados de Grok. “La mayoría de las veces se trata de contenido explícito manga y hentai y [other] los fotorrealistas. Tenemos desnudos completos, videos pornográficos completos con audio, lo cual es bastante novedoso”.
Bouchaud estima que de las 800 publicaciones, un poco menos del 10 por ciento del contenido parece estar relacionado con material de abuso sexual infantil (CSAM). «La mayoría de las veces es hentai, pero también hay casos de personas fotorrealistas, muy jóvenes, que realizan actividades sexuales», dice Bouchaud. «Aún observamos algunos vídeos de mujeres de apariencia muy joven desnudándose y realizando actividades con hombres», afirman. «Es inquietante a otro nivel».
El investigador dice que informaron a los reguladores en Europa alrededor de 70 URL de Grok, que pueden contener contenido sexualizado de menores. En muchos países, el CSAM generado por IA, incluidos dibujos o animaciones, puede considerarse ilegal. Los funcionarios franceses no respondieron de inmediato a la solicitud de comentarios de WIRED; sin embargo, la fiscalía de París dijo recientemente que dos legisladores habían presentado quejas ante su oficina, que está investigando a la empresa de redes sociales, sobre las imágenes «despojadas».
