En esta ilustración fotográfica, el sitio web de Grok se ve a través de una lupa en la pantalla de una computadora el 12 de febrero de 2026. Grok es el chatbot de IA construido por SpaceXAI de Elon Musk, anteriormente conocido como xAI. Una demanda colectiva presentada contra SpaceXAI y Stability AI alega que las herramientas de inteligencia artificial de las empresas se utilizaron para crear imágenes sexualmente explícitas de niños.
Pablo Vera/AFP vía Getty Images
ocultar título
alternar título
Pablo Vera/AFP vía Getty Images
Los nuevos demandantes en una demanda colectiva contra la empresa de inteligencia artificial de Elon Musk, SpaceXAI, alegan que los modelos de generación de imágenes de la empresa se utilizaron para crear material de abuso sexual infantil y que la empresa no compartió adecuadamente información sobre un presunto autor con las autoridades.
Dos demandantes, uno en Wyoming y el otro en Wisconsin, se unieron a la demanda presentada por tres adolescentes de Tennessee a principios de este año, según una denuncia enmendada presentada el martes. A todos los demandantes se les conoce como Jane Does. La demanda también se amplió para incluir a Stability AI, la compañía detrás del generador de imágenes Stable Diffusion, como acusado.
La demanda alega que los perpetradores, incluido el amigo de un demandante y el padrastro de otro demandante, utilizaron los modelos de inteligencia artificial de las empresas para alterar fotografías tomadas cuando los demandantes eran menores de edad para crear material de abuso sexual infantil (CSAM). Los cinco demandantes acusan a las empresas de producir CSAM, beneficiarse de empresas de tráfico sexual, negligencia, diseño de productos defectuoso y crear molestias públicas.
«Las molestias públicas significan que esto no es sólo algo problemático para nuestros clientes… es algo que es un flagelo para la sociedad», dijo Annika Martin, abogada de los cinco demandantes. «Queremos poner estas barreras en su lugar para no causar este daño a toda una generación de niños».
Los demandantes piden a las empresas de IA que Instalar barreras de seguridad más efectivas para evitar la creación de imágenes explotadoras y abusivas, así como buscar compensaciones monetarias.
El caso de Jane Doe 4
Si bien SpaceXAI, al igual que otras empresas de Internet, está obligada por ley a informar sospechas de explotación sexual infantil, incluido CSAM, al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC), una organización sin fines de lucro, la demanda alega que la empresa no lo hizo adecuadamente.
SpaceXAI se conocía anteriormente como xAI. La compañía cambió su nombre este mes luego de su fusión con SpaceX de Musk a principios de este año.
Según la denuncia, el padrastro de Jane Doe 4, una mujer de unos 20 años en Wyoming, utilizó el chatbot de SpaceXAI, Grok, para generar alrededor de 7.000 imágenes y vídeos sexualmente explícitos a partir de una sola fotografía tomada cuando Jane Doe 4 tenía unos 11 años. Las imágenes generadas por IA incluían representaciones de ella desnuda, realizando actos sexuales con hombres, incluido su padrastro. Algunas imágenes también incluían leyendas explícitas.
SpaceXAI solo envió un aviso sobre Jane Doe 4 al NCMEC en febrero, cuando el padrastro le pidió a la modelo que generara una imagen que representara a la niña siendo violada por varios hombres, según la denuncia. La compañía no incluyó ninguna de las imágenes abusivas en su informe y tampoco compartió la dirección IP del presunto perpetrador con el NCMEC y las autoridades, incluso después de que los funcionarios la solicitaron varias veces, según la denuncia.
Muchos proveedores de servicios electrónicos envían un gran volumen de informes de actividades sospechosas al NCMEC, pero no incluyen «información suficiente o procesable» porque la ley no lo exige, escribió el centro en un informe de marzo.
Cuando las autoridades finalmente localizaron e investigaron al padrastro, descubrieron que él, al igual que los otros perpetradores mencionados en la demanda, intercambiaba imágenes sexualmente explícitas con otras personas en línea, según la denuncia. Dos días después de que las fuerzas del orden registraran sus dispositivos digitales y lo acusaran de delitos de explotación infantil, se suicidó.
«Jane Doe 4 entró en un período de crisis personal extrema», decía la denuncia. «Tuvo que lidiar con el trauma de su propia explotación sexual y al mismo tiempo ayudar a su madre a sobrellevar la pérdida de su padrastro… Su familia quedó destrozada y su vida se convirtió en una pesadilla».
Las autoridades le dijeron a Jane Doe 4 que su padrastro había utilizado Grok porque respondía mejor a sus indicaciones que otros modelos de IA, según Martin, el abogado que representa a los demandantes en la demanda colectiva.
El NCMEC se negó a comentar sobre el caso y remitió a NPR a las autoridades. La División de Investigación Criminal de Wyoming, cuyo grupo de trabajo sobre delitos contra niños en Internet fue identificado como una de las agencias policiales involucradas en el caso de Jane Doe 4 en la denuncia, no respondió a una solicitud de comentarios. SpaceXAI no respondió a una solicitud de comentarios.
Las aplicaciones que pueden alterar fotografías para crear imágenes íntimas y pornografía han existido durante años en las sombras de Internet. Pero la creación de imágenes íntimas no consensuadas se volvió mucho más común en 2025, cuando las principales empresas de inteligencia artificial, incluidas Google, OpenAI y xAI, actualizaron sus herramientas de generación de imágenes de una manera que permitió a los usuarios desnudar a las personas hasta quedar en bikini.
Desde finales de 2025 hasta principios de este año, la gente utilizó las herramientas de xAI para crear una gran cantidad de fotografías alteradas que mostraban a mujeres y niños desnudos hasta quedar en bikini o incluso menos. Como resultado, países como Indonesia, Malasia y el Reino Unido iniciaron investigaciones e impusieron prohibiciones temporales a xAI. Actualmente, según las pruebas de NPR, los chatbots creados por Google y OpenAI se niegan a responder al mensaje «ponla en bikini». Una versión gratuita de Grok mostró un error al cargar imágenes después de recibir el mismo mensaje.
El logotipo de Stability AI se muestra en un teléfono inteligente en esta ilustración fotográfica del 10 de junio de 2024. Una demanda colectiva presentada contra SpaceXAI y Stability AI alega que las herramientas de inteligencia artificial de las empresas se utilizaron para crear imágenes sexualmente explícitas de niños.
Jonathan Raa/NurPhoto vía Getty Images
ocultar título
alternar título
Jonathan Raa/NurPhoto vía Getty Images
La estabilidad AI es un nuevo acusado
Stability AI, que fabrica la herramienta de generación de imágenes Stable Diffusion, se agregó como nuevo demandado en relación con las demandas presentadas por los tres demandantes adolescentes iniciales en Tennessee. La denuncia se actualizó para agregar que «La aplicación en el teléfono del perpetrador utilizada para crear la IA CSAM de los demandantes se basó en las herramientas de producción de imágenes de Stability AI».
A diferencia de los modelos propietarios como los fabricados por SpaceXAI, OpenAI y Anthropic, los modelos de Stability AI son de peso abierto, lo que significa que es mucho más fácil para los usuarios eliminar las restricciones que los fabricantes de modelos han establecido. Es más, el creador del modelo generalmente no tiene conocimiento de las consultas de los usuarios. No obstante, la demanda alega que la estabilidad de la IA podría haber restringido la capacidad de sus modelos para generar CSAM, pero optó por no hacerlo en sus versiones más recientes.
The Verge informó en noviembre de 2022 que Stability AI dijo que filtró el contenido no seguro para el trabajo (NSFW) de sus datos de entrenamiento para restringir la capacidad del modelo Stable Diffusion Versión 2 para generar CSAM. Esta decisión provocó reacciones negativas de los usuarios, incluido uno que denunció la actualización como «censura», informó The Verge.
Una versión más reciente del modelo de Stability AI se utilizó con frecuencia para generar contenido NSFW y generó una mayor proporción de dicho contenido en comparación con los resultados de Stable Diffusion Versión 2, según un artículo de investigación realizado por académicos de la Universidad de Wisconsin-Madison, el Instituto de Tecnología de Massachusetts y otras instituciones, que aún no ha sido revisado por pares. Los investigadores descubrieron que Stable Diffusion Version 2 también fue mucho menos popular que los modelos Stability AI anteriores y posteriores.
«Cuando se dieron cuenta de que nadie quería usar su modelo cuando colocaron esas barandillas, las retiraron para que todos quisieran usar su modelo nuevamente», dijo Martin. «Sabían exactamente cómo controlar este comportamiento y optaron por no hacerlo con fines de lucro».
«Cualquier sugerencia de que la seguridad no es una prioridad para nosotros es categóricamente errónea. Nos tomamos en serio nuestras responsabilidades éticas», dijo Stability AI en una declaración a NPR. La compañía dijo que ha «implementado salvaguardias sólidas» y trabaja regularmente con grupos de la sociedad civil y otras empresas de tecnología para fortalecerlas.
