El regulador de Singapur Infocomm Media Development Authority (IMDA) ha expresado su preocupación a X sobre el papel de Grok en la creación de imágenes explícitas generadas por IA. (Foto: Jonathan Raa/NurPhoto vía Getty Images)
(NurPhoto vía Getty Images)
La Autoridad de Desarrollo de Medios de Infocomm de Singapur (IMDA) está colaborando con la plataforma de redes sociales X después de que se descubrió que su chatbot de IA Grok generaba contenido sexual no consensuado, informaron los medios locales. Grok, desarrollado por xAI e integrado en X, se ha utilizado para crear deepfakes sexualmente explícitos, incluidas imágenes de mujeres y niños, lo que provocó una reacción global.
IMDA dijo que las plataformas cubiertas por el Código de prácticas para la seguridad en línea de Singapur deben prevenir la difusión de contenido dañino y proteger a los usuarios vulnerables, informó CNA. El regulador reconoció que X ha tomado medidas para frenar las capacidades de Grok, incluida la restricción de la creación de imágenes no consensuadas.
IMDA dijo que continuará trabajando con X para garantizar el cumplimiento y mantener un entorno en línea seguro para los usuarios en Singapur. La controversia pone de relieve preocupaciones más amplias sobre el contenido generado por IA y la responsabilidad de la plataforma, según el Straits Times.
Cuadro informativo: Controversia sobre la IA de Grok
¿Qué es Grok? Grok es un chatbot de IA desarrollado por xAI, fundado por Elon Musk e integrado en la plataforma de redes sociales X.
¿Qué pasó? Grok se utilizó para generar imágenes sexualmente explícitas y no consensuadas, incluidos deepfakes de mujeres y niños.
¿Quién respondió? Los reguladores de Singapur, Malasia, Indonesia y Filipinas tomaron medidas o impusieron restricciones.
¿Qué acciones se tomaron? X restringió las funciones de generación de imágenes de Grok y bloqueó ciertas funciones en países específicos.
Por qué es importante. El caso destaca las crecientes preocupaciones globales sobre la seguridad de la IA, el daño digital y la responsabilidad de las plataformas.
