Quizás haya estado leyendo lo que se considera noticia durante la última semana: el gobierno quiere que las máquinas tomen el control, pronto tendrán el control de las operaciones militares estadounidenses y todos vamos a morir.
Retrocederemos unos pasos. La empresa de tecnología Anthropic, mejor conocida como el “laboratorio de frontera” detrás del chatbot Claude, más amable, amigable y mucho menos probable que arroje basura racista, está actualmente involucrada en una pelea con el Departamento de Defensa. Hay, digamos, algunas diferencias de opinión sobre cómo la administración actual podría (y debería) utilizar el sistema de inteligencia artificial de Anthropic. Específicamente, el director ejecutivo Dario Amodei se retuerce las manos por la posible falta de barreras de seguridad una vez que se entregue el sistema. Amodei emitió un comunicado en el que señaló que la compañía, que tiene un contrato con el gobierno de Estados Unidos y ha desplegado sus modelos de inteligencia artificial en varias redes federales clasificadas, “nunca ha planteado objeciones a operaciones militares particulares ni ha intentado limitar el uso de nuestra tecnología en un para esto manera. Sin embargo, en un conjunto reducido de casos, creemos que la IA puede socavar, en lugar de defender, los valores democráticos. Algunos usos también están simplemente fuera de los límites de lo que la tecnología actual puede hacer de manera segura y confiable”.
Esos usos, según Amodei, implican una vigilancia masiva de los estadounidenses, en particular en formas que van mucho más allá de intentar encontrar mascotas desaparecidas; y “armas totalmente autónomas”. En términos sencillos, el término se refiere a que los sistemas de IA tienen control total sobre la selección de objetivos y el uso de todo el arsenal militar, incluido el armamento termonuclear, y mantienen a los seres humanos, ¿los recuerdan? – fuera del circuito. “No se puede confiar en que las armas totalmente autónomas ejerzan el juicio crítico que nuestras tropas profesionales altamente entrenadas exhiben todos los días”, afirma el memorando. «No proporcionaremos conscientemente un producto que ponga en riesgo a los combatientes y civiles estadounidenses. Hemos ofrecido trabajar directamente con el Departamento de Guerra en I+D para mejorar la confiabilidad de estos sistemas, pero no han aceptado esta oferta».
Esas últimas seis palabras explican dónde nos encontramos ahora. Anthropic quiere modificar sus contratos actuales para evitar, ya sabes, un posible mecha-apocalipsis. El Secretario de Defensa Pete Hegseth ha declarado que el gobierno de EE.UU. debería poder hacer lo que quiera con el software de Anthropic en el campo de batalla, al diablo con Armageddon. Está dispuesto a declarar a la empresa como un “riesgo para la cadena de suministro” y cancelar todos y cada uno de los contratos. Naturalmente, el presidente también intervino. Muchos críticos, expertos políticos y bromistas preguntaron, un tanto retóricamente, si alguien en la administración recuerda cómo resultó en los últimos años traspasar la responsabilidad del armamento nuclear a las máquinas. terminador cine.
Sin embargo, tenemos curiosidad por saber si la administración recuerda otra película popular de ese mismo período: Juegos de guerra.
Como le dirá cualquier fan acérrimo del cine de la era Reagan, el éxito de 1983 giraba en torno a un nerd informático de Seattle llamado David Lightman, interpretado por Matthew Broderick como un tonto pero de una manera algo linda, anterior a Ferris Bueller. Es un sabelotodo en clase y un genio a la hora de piratear la red de la escuela y cambiar sus calificaciones. Cuando intenta ayudar a su compañera de estudios Jennifer (Ally Sheedy) cambiando su F por una A, ella se resiste. Pero la joven queda impresionada por el cerebro de David y su cojones. Prácticamente puedes oler las feromonas que emanan de estos dos adolescentes.
Mientras tanto, en la sede del Comando de Defensa Aeroespacial de América del Norte (NORAD), todos están perdiendo la cabeza por un reciente ejercicio de entrenamiento. Ya hemos visto a un empleado negarse a facilitar la liberación de misiles balísticos intercontinentales de un silo de misiles estadounidense durante este simulacro; ni siquiera su compañero apuntándole con un arma conseguirá que potencialmente mate a millones de personas. (Sí, el tipo que sostiene la pistola y grita “¡Gire la llave, señor!” es de hecho un Michael Madsen con cara de niño. Incluso entonces, el futuro Sr. Rubio era genuinamente despiadado). Aparentemente, este reacio asesino en masa no fue el único que no cumplió. Casi una cuarta parte de los hombres que manejaban esos centros de control remoto también se negaron a girar las llaves.
Afortunadamente, “afortunadamente”, un hombre tiene una solución. Él es el Dr. John McKittrick; Dado que lo interpretó el imbécil de la década, Dabney Coleman, se puede decir inmediatamente que es un trabajo. McKittrick quiere subcontratar el control del arsenal nuclear de Estados Unidos a una supercomputadora conocida como Respuesta al Plan de Operaciones de Guerra, o WOPR para abreviar. Esta máquina no hace más que ejecutar planes de ataque simulados y/o respuestas a ataques las 24 horas del día, los 7 días de la semana. “Pasa todo su tiempo pensando en la Tercera Guerra Mundial”, se jacta (lo que probablemente también sea una descripción precisa de Hegseth). McKittrick es consciente de que el comandante en jefe es técnicamente quien dicta la estrategia en términos de conflictos internacionales, pero está convencido de que «el presidente probablemente seguirá ese plan de guerra… una vez que tome esa decisión».
En pocas palabras, David accidentalmente piratea la red de WOPR y, frente a un menú de juegos que incluye ajedrez, damas, póquer, combate de combate, acciones aire-tierra y guerra química y biotóxica en todo el teatro, elige el título más intrigante: Guerra termonuclear. El joven emprendedor inicia un juego de guerra que la computadora sigue jugando incluso después de que él cierra la sesión, con riesgos muy reales. Él y Jennifer se ven obligados a huir mientras los federales los persiguen, y eventualmente deben engañar a WOPR para que se estanque antes de que todo explote.
La trama entre Broderick y Sheedy era algo que el nuevo director John Badham deseaba poner en primer plano. (Badham se hizo cargo del proyecto después de que el cineasta original, Martin Brest, fuera despedido; el despido liberó a Brest para asumir una nueva película, sin embargo, una historia de pez fuera del agua llamada Policía de Beverly Hills.) Y aunque la mayoría de los cinéfilos de cierta edad piensan fácilmente en la voz computarizada de WOPR preguntando «¿Jugamos un juego?» cada vez que alguien menciona Juegos de guerra ahora, la película terminó convirtiéndose en un gran éxito menos por su actualidad y más porque estaba aprovechando un grupo demográfico de audiencias adolescentes en constante crecimiento. Todo juega como un cruce entre un thriller de conspiración de la década de 1970 y el tipo de película que pronto se convertiría en la especialidad de John Hughes. Llámalo Los días de adolescencia del cóndor.
Pero la idea de que un sistema computarizado que controla las acciones militares estadounidenses pudiera verse comprometido había asustado a los poderes fácticos. Poco después Juegos de guerra fue proyectada en la Casa Blanca en junio de 1983, Ronald Reagan preguntó durante una reunión de seguridad nacional si ese tipo de idea fantasiosa era posible. Varios asesores aceptaron la petición del presidente de que investigaran el asunto. El general John W. Vessey Jr., entonces presidente del Estado Mayor Conjunto, regresó una semana después y le dijo a Reagan: «Señor presidente, el problema es mucho peor de lo que cree».
Resulta que varios científicos y expertos en políticas habían estado estudiando esta misma idea durante muchos años antes de juegos de guerra, pero fue necesaria la película para que Reagan indagara y llevara lo que habían sido hipótesis de nicho a la conversación política más amplia. Esa película adolescente afectaría la forma en que el gobierno estadounidense abordó la ciberseguridad y la noción de guerra cibernética durante generaciones. Ante el peor escenario ficticio, los homólogos de la vida real en los altos mandos militares y dentro de NORAD comenzaron a considerar seriamente las salvaguardias. Se dieron cuenta, como lo hace WOPR en la película, de que estaban jugando a un juego de suma cero. Al igual que el público en general, durante una de las funciones especiales del lanzamiento en DVD de juegos de guerra, Badham señaló que cuando la supercomputadora anunció al final que “el único movimiento ganador es no jugar”, el público se puso de pie y aplaudió. Puede que sea una buena historia, pero preferiremos lo apócrifo a lo apocalíptico cualquier día.
Lo que nos lleva de regreso a Anthropic, Hegseth y nuestro momento actual. La empresa de inteligencia artificial exige que la moralidad básica y la responsabilidad sean un factor en cualquier uso de su software, o se negarán a otorgarle licencia. Hegseth respondió diciendo que nadie podría decirle a él ni a la administración qué hacer, y que cancelaría todos sus contratos y simplemente buscaría otra empresa de inteligencia artificial sin una brújula moral que no armara un escándalo. La competencia de miradas continúa, incluso cuando la administración se ve involucrada en una guerra.
¿No han aprendido nada de Juegos de guerra? Tener nosotros ¿No aprendiste nada de la película? Existe la sensación de que Hegseth y su cohorte, si alguno de ellos ha visto la película, dejan de verla después de los primeros 15 minutos aproximadamente. Eso habría sido tiempo suficiente para ver al personaje de Dabney Coleman decir que expresar vacilación o remordimiento por millones de muertes era una “tontería de psiquiatra”; escuchar a alguien decir que “este hardware de un billón de dólares está a merced de esos hombres con las pequeñas llaves de latón” y que Coleman responda: “…cuyo único problema es que son seres humanos”; y para él esencialmente concluir que la única manera de asegurar la victoria en la guerra era: «Creo que deberíamos sacar a los hombres del círculo». A juzgar por lo que estamos viendo ahora en el Pentágono, esta gente nunca llegó al último acto, donde Coleman ve que eliminar el factor humano en la guerra significa eliminar potencialmente el factor humano, punto. Se perdieron toda la parte de que el único movimiento ganador es no jugar con esta idea peligrosa en absoluto.
