KUALA LUMPUR, Malasia (AP) — Malasia e Indonesia se han convertido en los primeros países en bloquear a Grok, el chatbot de inteligencia artificial desarrollado por la compañía xAI de Elon Musk, a medida que crece la preocupación entre las autoridades globales de que se esté utilizando indebidamente para generar imágenes sexualmente explícitas y no consensuadas.
Existe un creciente escrutinio de las herramientas de IA generativa que pueden producir imágenes, sonido y texto realistas, y la preocupación de que las salvaguardias existentes no logren prevenir su abuso. El chatbot de Grok, al que se accede a través de Musk plataforma de redes sociales Xha sido criticado por generar imágenes manipuladas, incluidas representaciones de mujeres en bikini o poses sexualmente explícitas, así como imágenes que involucran a niños.
«El gobierno considera que los deepfakes sexuales no consensuales son una grave violación de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital», afirmó en un comunicado el ministro indonesio de Comunicación y Asuntos Digitales, Meutya Hafid.
El escrutinio sobre Grok está creciendo, incluso en la Unión Europea, India, Francia y el Reino Unido, que dijo el lunes que estaba tomando medidas para criminalizar las “aplicaciones de nudificación”. El regulador de medios de Gran Bretaña también inició una investigación para determinar si Grok violó la ley al permitir a los usuarios compartir imágenes sexualizadas de niños.
La semana pasada, Grok generación y edición de imágenes limitadas para usuarios de pago siguiendo un reacción global sobre deepfakes sexualizados de personas, pero los críticos dicen que no abordó completamente el problema.
Una solicitud de comentarios enviada por correo electrónico por parte de The Associated Press a xAI resultó en una respuesta automática de la dirección de soporte de medios que decía: «Legacy Media Lies». Este fue el mismo mensaje recibido de una dirección diferente cuando se le pidió un comentario sobre la reacción global.
Acción asiática dirigida a Grok
Los reguladores de las dos naciones del Sudeste Asiático dijeron que los controles existentes no estaban impidiendo la creación y propagación de contenido pornográfico falsoparticularmente involucrando a mujeres y menores. El gobierno de Indonesia bloqueó temporalmente el acceso a Grok el sábado, seguido por Malasia el domingo.
Los hallazgos iniciales mostraron que Grok carece de salvaguardas efectivas para impedir que los usuarios creen y distribuyan contenido pornográfico basado en fotografías reales de residentes indonesios, dijo en un comunicado Alexander Sabar, director general de supervisión del espacio digital. Dijo que tales prácticas corren el riesgo de violar la privacidad y los derechos de imagen cuando las fotos se manipulan o comparten sin consentimiento.
La Comisión de Comunicaciones y Multimedia de Malasia señaló un “uso indebido repetido” de la herramienta para generar imágenes obscenas, sexualmente explícitas y manipuladas sin consentimiento, incluido contenido que involucra a mujeres y menores.
El regulador dijo que este mes se emitieron avisos a X Corp. y xAI exigiendo salvaguardias más estrictas.
«La restricción se impone como medida preventiva y proporcionada mientras los procesos legales y regulatorios están en curso», dijo, y agregó que el acceso permanecerá bloqueado hasta que se establezcan salvaguardias efectivas.
Investigación iniciada en el Reino Unido
Lanzado en 2023, Grok se puede usar de forma gratuita en X. El año pasado se agregó una función de generación de imágenes, Grok Imagine, que incluía el llamado modo picante que puede generar contenido para adultos.
El regulador de medios del Reino Unido dijo que inició una investigación para determinar si Grok violó su deber de proteger a las personas de contenidos ilegales. El regulador, Ofcom, dijo que las imágenes generadas por Grok de niños sexualizados o personas desnudándose pueden constituir pornografía o material de abuso sexual infantil.
La secretaria de Tecnología, Liz Kendall, calificó las imágenes generadas por IA como “armas de abuso” y dijo que el gobierno laborista de centroizquierda atacaría la fuente del problema al tipificar como delito que las empresas proporcionen herramientas para crear imágenes de desnudos sin consentimiento.
Kendall dijo que X podría enfrentar una posible multa de Ofcom de hasta el 10% de sus ingresos globales calificados dependiendo del resultado de la investigación y una posible orden judicial que bloquee el acceso al sitio.
«Pueden optar por actuar antes para garantizar que este material abominable e ilegal no pueda compartirse en su plataforma», dijo Kendall en el Parlamento.
Durante el fin de semana, Musk calificó de “fascista” al gobierno británico y dijo que está intentando reprimir la libertad de expresión.
___
Tarigan informó desde Yakarta, Indonesia. Los periodistas de Associated Press Sylvia Hui y Brian Melley en Londres contribuyeron.
