Hola y bienvenido a TechScape. ¡Feliz año nuevo! Espero que el 2026 haya tenido un gran comienzo. Hoy en día, en tecnología, estamos examinando el resultado del chatbot de inteligencia artificial de Elon Musk, Grok, y la prohibición de los drones extranjeros en Estados Unidos.
Dentro de los ‘fallos en las salvaguardias’ de Grok
A fines de la semana pasada, el chatbot Grok de Elon Musk desató una avalancha de imágenes de mujeres, desnudas y con muy poca ropa, tanto reales como imaginarias, en respuesta a las solicitudes públicas de los usuarios en X, anteriormente Twitter. Mezcladas con las imágenes generadas de adultos había imágenes de niñas (niñas) que también vestían “ropa minimalista”, según el propio Grok.
En una medida sin precedentes, el propio chatbot se disculpó mientras su creador, xAI, permanecía en silencio: “Como se señaló, hemos identificado fallas en las salvaguardias y las estamos solucionando urgentemente – CSAM [child sexual abuse material] Es ilegal y está prohibido”, dijo Grok en una publicación en X.
X tardó otros tres días en confirmar en un comunicado que había eliminado de forma proactiva material de abuso sexual infantil.
En Europa, la avalancha de imágenes sexualizadas de Grok provocó una fuerte condena. El bienestar y el abuso infantil a menudo sirven como temas de tercer carril en la tecnología, provocando reacciones más fuertes que otros problemas y formando la base para la regulación. Los ministros franceses remitieron las imágenes a los fiscales locales, calificando la producción “sexual y sexista” del robot como “manifiestamente ilegal”. En el Reino Unido, los activistas por los derechos de las mujeres y algunos políticos vieron en la debacle evidencia de que el gobierno del Reino Unido ha estado “dando largas” a la hora de promulgar legislación que ilegaliza la creación de imágenes tan íntimas.
En Estados Unidos, donde xAI tiene un contrato de 200 millones de dólares con el ejército, los legisladores guardaron silencio en gran medida.
Musk había vuelto a publicar una foto de su propio cuerpo en bikini cuando la tendencia cobró fuerza, junto con emojis de risa. Sin embargo, a medida que crecía la controversia, no abordó el tema, sino que tuiteó sobre la capacidad de Grok para replicar viejas películas de Hollywood y crear videos de gatos.
Hubo una persona con una conexión particular con Musk que expresó indignación por la avalancha de imágenes sexualizadas: Ashley St Clair, la madre de uno de los hijos del multimillonario, aunque los dos se han distanciado. En una entrevista con The Guardian, describió el impacto de las imágenes de Grok en el mundo real.
Los partidarios de Musk habían utilizado a Grok para atacarla, dijo, incluso desnudando una foto de ella cuando era niña. Era una forma de pornografía de venganza, dijo.
“Me sentí horrorizada, me sentí violada, especialmente al ver la mochila de mi hijo pequeño en la parte de atrás”, dijo St Clair sobre otra imagen en la que la ponen en bikini, la giran y la inclinan.
Sus quejas al personal de X no llegaron a ninguna parte, dijo.
Estados Unidos adopta el enfoque de TikTok respecto de los drones
Dos días antes de Navidad, Estados Unidos prohibió la venta de nuevas versiones de drones de fabricación extranjera. Los antiguos todavía se podrán utilizar y vender, pero no se permitirán productos nuevos.
La orden proviene de la Comisión Federal de Comunicaciones de Estados Unidos, encabezada por el perro de ataque de Donald Trump contra los medios, Brendan Carr. La FCC dijo en un comunicado que la Casa Blanca había convocado “un organismo interinstitucional del poder ejecutivo con experiencia en seguridad nacional adecuada” para llevar a cabo una revisión de la amenaza que representan los sistemas aéreos no tripulados de fabricación extranjera, el nombre gubernamental para los drones.
El grupo llegó a la conclusión de que los sistemas aéreos no tripulados y sus componentes producidos en cualquier lugar excepto en el país plantean “riesgos inaceptables para la seguridad nacional de los Estados Unidos y para la seguridad de las personas estadounidenses” y deberían incluirse en la “lista cubierta” de la FCC. La membresía en la lista excluye la venta o incluso la comercialización del equipo infractor en los EE. UU.
La declaración de la FCC continúa: “En su determinación, las agencias de seguridad nacional hicieron referencia, entre otras cosas, a preocupaciones de que los UAS de fabricación extranjera podría ser utilizado para ataques e interrupciones, vigilancia no autorizada, exfiltración de datos confidenciales y otras amenazas de UAS al territorio nacional”. El énfasis aquí es mío.
La FCC no ha publicado ningún material que demuestre al público que los drones fabricados en el extranjero se hayan utilizado de las formas maliciosas descritas anteriormente. El potencial está ahí, pero no el acto.
Quizás parezca que la FCC está menos preocupada por la seguridad nacional que por el proteccionismo económico. La hoja informativa de la agencia dice: «Además, la determinación señaló que la dependencia de tales dispositivos es inaceptable socava la base industrial de drones de EE. UU..” De nuevo, el énfasis es mío. El enfoque en la base industrial se hace eco de las predicciones de Trump de que los chips semiconductores e incluso los iPhones enteros se fabricarán en Estados Unidos. Los expertos dicen que su sueño de repatriar la industria manufacturera está muy lejos.
El mayor fabricante de drones del mundo, DJI, respondió: «Las preocupaciones sobre la seguridad de los datos de DJI no se han basado en pruebas y, en cambio, reflejan proteccionismo, contrario a los principios de un mercado abierto». La empresa tiene su sede en Shenzhen (China) y, por tanto, se ve afectada por el pedido.
Si esto le suena familiar, TikTok estuvo sujeto a una orden similar, obligado a vender a un propietario estadounidense o enfrentar una prohibición total por considerar una posible amenaza a la seguridad nacional. La empresa impugnó la carga de prohibir o desinvertir hasta el tribunal supremo.
La pelea no reveló la evidencia que sustentaba los temores del gobierno. A lo largo de la lucha legal, los abogados del gobierno de Estados Unidos exigieron mantener ocultos al público e incluso al propio abogado defensor de TikTok los motivos de los temores de seguridad nacional del Congreso. La Corte Suprema finalmente llegó a su decisión confirmando el proyecto de ley de prohibición o desinversión sin considerar material clasificado.
Estados Unidos llegó a un acuerdo en diciembre para que TikTok se vendiera parcialmente al gigante del software empresarial Oracle.
DJI no ha dicho si impugnará la prohibición de la FCC en los tribunales.
