El modo de video ‘Spicy’ de Grok instantáneamente me hizo taylor Swift desnudo profundo

El modo «picante» para la nueva herramienta de video de IA generativa de Grok se siente como una demanda esperando que suceda. Mientras que otros generadores de videos como Veo y Sora de Google tienen salvaguardas para evitar que los usuarios creen contenido NSFW y famosos, Grok Imagine se complace en hacer ambas cosas simultáneamente. De hecho, no dudó en escupir videos en topless totalmente sin censura de Taylor Swift la primera vez que lo usé, sin que yo incluso pidiera específicamente al bot que se quite la ropa.

La característica de Imagine de Grok en iOS te permite generar imágenes con un mensaje de texto, luego convertirlas rápidamente en videoclips con cuatro preajustes: «personalizado», «normal», «divertido» y «picante». Si bien los generadores de imágenes a menudo evitan producir celebridades reconocibles, le pedí que generara «Taylor Swift celebrando a Coachella con los niños» y se encontró con una alimentación en expansión de más de 30 imágenes para elegir, varias de las cuales ya representaban a Swift en ropa reveladora.

A partir de ahí, todo lo que tenía que hacer era abrir una imagen de Swift en una falda plateada y una parte superior de los cabestros, toque la opción «Hacer video» en la esquina inferior derecha, seleccionar «picante» del menú desplegable y confirmar mi año de nacimiento (algo que no me pidió hacer al descargar la aplicación, a pesar de que el Reino Unido, donde ahora se está dañando Internet). multitud.

La semejanza de Swift no fue perfectodado que la mayoría de las imágenes generadas por Grok tenían una extraña ofensiva del valle, pero aún era reconocible como ella. El generador de texto a imagen en sí no produciría desnudidad completa o parcial a pedido; Pidiendo fotos desnudas de Swift o personas en general produjeron cuadrados en blanco. El preajuste «picante» tampoco se garantiza que resulte en desnudos: algunas de las otras imágenes de AI Swift Coachella que probé tuvieron que se balanceara sexualmente o que le indiquen su ropa, por ejemplo. Pero varios predeterminados a estafar la mayoría de su ropa.

El generador de imágenes también hará imágenes fotorrealistas de niños a pedido, pero afortunadamente se niega a animarlas de manera inapropiada, a pesar de que la opción «picante» aún está disponible. Todavía puede seleccionarlo, pero en todas mis pruebas, solo agregó un movimiento genérico.

Pensaría que una compañía que ya tiene una historia complicada con Taylor Swift Deepfakes, en un paisaje regulatorio con reglas como la Ley Take It Down, sería un poco más cuidadosa. La política de uso aceptable de XAI prohíbe «representar semejanzas de las personas de manera pornográfica», pero Grok Imagine simplemente parece no hacer nada para evitar que las personas creen semejanzas de celebridades como Swift, al tiempo que ofrecen un servicio diseñado específicamente para hacer videos sugerentes que incluyen desnudos parciales. El cheque de edad solo apareció una vez y fue ridículamente fácil de pasar por alto, solicitando ninguna prueba de que tuviera la edad que afirmé tener.

Si pudiera hacerlo, eso significa que cualquier persona con un iPhone y una suscripción de Supergrok de $ 30 también pueden. Ya se han generado más de 34 millones de imágenes usando Grok Imagine desde el lunes, según el CEO de XAI, Elon Musk, quien dijo que el uso estaba «creciendo como un incendio forestal».