Liv Mc Mahony
Laura Cress,Reporteros de tecnología
La secretaria de Tecnología, Liz Kendall, dice que respaldaría al regulador Ofcom si bloquea el acceso del Reino Unido al sitio de redes sociales X de Elon Musk por no cumplir con las leyes de seguridad en línea.
Ofcom dice que está decidiendo urgentemente qué hacer con Grok, el chatbot de inteligencia artificial (IA) de X, que desnudó digitalmente a personas sin su consentimiento cuando las etiquetó debajo de imágenes publicadas en la plataforma. X ahora ha limitado el uso de esta función de imagen a quienes pagan una tarifa mensual.
Pero Downing Street dijo que el cambio era «insultante» para las víctimas de violencia sexual.
Musk dijo en X que el gobierno del Reino Unido «quiere cualquier excusa para la censura», mientras respondía a una publicación en la que se preguntaba por qué no se analizaban otras plataformas de inteligencia artificial.
Kendall dijo: «Manipular sexualmente imágenes de mujeres y niños es despreciable y aborrecible.
Y añadió: «Yo, y lo que es más importante, el público, esperaríamos ver a Ofcom actualizar sobre los próximos pasos en días, no en semanas».
Dijo que la Ley de Seguridad en Línea «incluye el poder de bloquear el acceso a servicios en el Reino Unido, si se niegan a cumplir con la ley del Reino Unido» y «si Ofcom decide utilizar esos poderes, tendrá todo nuestro apoyo».
La BBC se acercó a X para hacer comentarios.
Un portavoz de Ofcom dijo: «Nos pusimos en contacto urgentemente [with X] el lunes y fijar un plazo firme para hoy [Friday] para explicarse, a lo que hemos recibido respuesta.»
«Ahora estamos llevando a cabo una evaluación acelerada con carácter de urgencia y proporcionaremos más actualizaciones en breve».
Los poderes de Ofcom según la Ley de Seguridad en Línea incluyen la posibilidad de solicitar una orden judicial para evitar que terceros ayuden a X a recaudar dinero o a ser accedido en el Reino Unido, en caso de que la empresa se niegue a cumplir.
Estas llamadas medidas de disrupción empresarial siguen sin ser puestas a prueba en gran medida.
El uso de Grok para generar imágenes sexualizadas no consensuadas ha sido condenado por políticos de todos los bandos, y el Primer Ministro Sir Keir Starmer lo calificó de «vergonzoso» y «repugnante».
El líder reformista del Reino Unido, Nigel Farage, dijo que era «horrible en todos los sentidos» y que X «necesita ir más allá» que los cambios que había realizado en Grok el viernes.
Pero dijo que la idea de prohibir X en el Reino Unido era «francamente espantosa» y un ataque a la libertad de expresión.
Los demócratas liberales han pedido que se restrinja temporalmente el acceso a X en el Reino Unido mientras se investiga el sitio de redes sociales.
«Humillados y deshumanizados»
Grok es una herramienta gratuita que los usuarios pueden etiquetar directamente en publicaciones o respuestas en publicaciones de otros usuarios para solicitar una respuesta particular.
La herramienta aún puede editar imágenes en X si se accede a ella a través de otras áreas de la plataforma, como a través de su función incorporada de «editar imagen», o en su aplicación y sitio web separados.
Se han realizado muchas solicitudes para editar imágenes de mujeres para mostrarlas en bikini o con poca ropa, algo que quienes recibieron dichas solicitudes dijeron a la BBC que las hizo sentir «humilladas» y «deshumanizadas».
Sin embargo, el viernes por la mañana, Grok les dijo a los usuarios que le pedían que modificara las imágenes cargadas en X que «la generación y edición de imágenes están actualmente limitadas a suscriptores de pago», y agregó que los usuarios «pueden suscribirse para desbloquear estas funciones».
Algunas publicaciones en la plataforma vistas por BBC News sugieren que solo aquellos con una marca azul de «verificado», exclusiva del nivel de suscriptores pagos de X, pudieron solicitar con éxito ediciones de imágenes a Grok.
La Dra. Daisy Dixon, profesora de filosofía en la Universidad de Cardiff y usuaria de X, quien dijo que había visto un aumento en el número de personas que usaban Grok para desnudarla, acogió con agrado el cambio, pero dijo que se sentía «como una tirita».
«Grok necesita ser totalmente rediseñado y tener barreras éticas incorporadas para evitar que esto vuelva a suceder», le dijo a la BBC.
«Elon Musk también necesita reconocer esto como lo que es: otro ejemplo más de violación por motivos de género».
Hannah Swirsky, jefa de políticas de la Internet Watch Foundation, dijo que «no deshace el daño causado».
«No creemos que sea suficiente simplemente limitar el acceso a una herramienta que nunca debería haber tenido la capacidad de crear el tipo de imágenes que hemos visto en los últimos días», afirmó.
La organización benéfica dijo anteriormente que sus analistas habían descubierto «imágenes criminales» de niñas de entre 11 y 13 años que «parecían haber sido creadas» usando Grok.
Los parlamentarios laboristas están cada vez más descontentos con el uso que hace el partido de X para difundir sus mensajes políticos.
Los mensajes filtrados del grupo de WhatsApp del Partido Laborista Parlamentario, utilizados para publicar anuncios para que los parlamentarios laboristas secundarios los compartan en las redes sociales, muestran que al menos 13 parlamentarios laboristas han pedido al gobierno que deje de usar la plataforma.
Los mensajes, reportados por primera vez por Politics Home y vistos por BBC News, muestran a parlamentarios laboristas pidiendo al gobierno que «adopte una posición» y «difunda nuestros mensajes en otros lugares».
Un diputado dijo: «Como algunos de nosotros hemos solicitado desde que Musk se volvió fascista, en lugar de X, nuestro gobierno debería empezar a utilizar otra plataforma».
Otro dijo: «Cualquier imagen de niños (y mujeres) en las comunicaciones gubernamentales en X pone a esos niños en peligro».
Más temprano el viernes, Downing Street sugirió que el gobierno continuaría publicando en X.
El portavoz oficial del primer ministro dijo a los periodistas que los cambios en la forma en que Grok cumplió con las solicitudes de los usuarios para editar imágenes en la plataforma mostraron que X «puede moverse rápidamente cuando quiere».
Dijeron que estaba «muy claro que X necesita actuar y necesita actuar ahora».
«Es hora de que X se ocupe de esta cuestión. Si otra empresa de medios tuviera vallas publicitarias en el centro de las ciudades mostrando imágenes ilegales, actuaría de inmediato para retirarlas o enfrentar la reacción del público», agregaron.
