«Se trata del principio de defender lo que es correcto», afirmó Dario Amodei, director general de la empresa de inteligencia artificial Anthropic, que se ha encontrado en el centro de un nuevo tipo de tormenta. Lo que está mal, en su opinión, es por qué la empresa de inteligencia artificial que cofundó ha sido prohibido por el gobierno federal.
«Se siente muy punitivo e inapropiado, dado lo mucho que hemos hecho por la seguridad nacional de Estados Unidos», dijo.
Anthropic creó Claude, un chatbot de IA que puedes usar en el trabajo o la escuela. Desde el verano pasado, su versión gubernamental ha estado profundamente arraigada en la inteligencia militar y en operaciones clasificadas en el Pentágono. La semana pasada, antes del ataque a Irán, el Departamento de Defensa exigió a Anthropic entregar su IA sin restricciones para uso militar legal. La empresa se negó.
«Tenemos estas dos líneas rojas», afirmó Amodei. «Los hemos tenido desde el primer día. Todavía estamos defendiendo esas líneas rojas. No vamos a movernos sobre esas líneas rojas».
¿Esas líneas rojas? No permitir que la IA de Anthropic realice vigilancia masiva de los estadounidenses y prohibir que su IA impulse armas totalmente autónomas sin ninguna participación humana.
Amodei dijo: «No muestra el juicio que mostraría un soldado humano: fuego amigo o disparar a un civil, o simplemente el tipo de cosa equivocada. No queremos vender algo que no creemos que sea confiable, y no queremos vender algo que pueda causar la muerte de nuestra propia gente, o que pueda causar la muerte de personas inocentes».
La cuestión es quién debería controlar la tecnología más avanzada jamás creada: ¿una empresa tecnológica privada o el gobierno federal?
Cuando se le preguntó si cree que Anthropic sabe más que el Pentágono, Amodei respondió: «Una de las cosas acerca del libre mercado y la libre empresa es que diferentes personas pueden proporcionar diferentes productos bajo diferentes principios. Nuestro modelo tiene personalidad. Es capaz de hacer ciertas cosas. Es capaz de hacer ciertas cosas de manera confiable. Es capaz de no hacer ciertas cosas de manera confiable. Y creo que somos un buen juez de lo que nuestros modelos pueden hacer de manera confiable y lo que no pueden hacer de manera confiable».
Después de varias semanas de conversaciones, el presidente Trump el viernes ordenó al gobierno de EE. UU. que detuviera todo uso de la IA de Anthropiccancelando más de $200 millones en contratos federales. Pete Hegseth, secretario de Defensa etiquetado como Antrópico «un riesgo de la cadena de suministro para la seguridad nacional» – una novedad para una empresa estadounidense.
Cuando se le preguntó si el presidente se refirió a Anthropic como «una empresa de izquierdas despierta», Amodei dijo: «No puedo hablar de lo que otros partidos están haciendo, y de lo que están haciendo… Pero creo que hemos tratado de ser muy neutrales. Entonces, ¿esta idea de que de alguna manera hemos sido partidistas, o que no hemos sido imparciales? Hemos sido estudiadamente imparciales».
Los críticos han calificado las acciones de la administración Trump con respecto a Anthropic como un abuso de poder. Cuando se le preguntó si estaba de acuerdo, Amodei respondió: «Una vez más, volvería a la idea de que esto no tiene precedentes».
¿Pero es un abuso de poder? «Esto nunca había sucedido antes», dijo. «Esta designación nunca había ocurrido antes con una empresa estadounidense. Y creo que quedó muy claro en algunas de sus declaraciones, en algunos de sus lenguajes, que esto fue una represalia y un castigo. No sé cómo llamarlo más. Represalia y punitivo».
Mientras Amodei y Anthropic enfrentan una prohibición gubernamental, su principal rival, Sam Altman, de OpenAI (fabricante de ChatGPT), llegó a su propio acuerdo con el Pentágono el viernes.
Amodei dice que Anthropic planea emprender acciones legales. «Todo lo que hemos visto», dijo, «son tuits del presidente y tuits del secretario Hegseth». Y, dice, Anthropic permanece en la mesa de negociaciones, con la esperanza de hablar.
Cuando se le preguntó qué podría decirle al presidente Trump, Amodei dijo: «Somos estadounidenses patriotas. Todo lo que hemos hecho ha sido por el bien de este país, por el bien de apoyar la seguridad nacional de Estados Unidos. Creemos en derrotar a nuestros adversarios autocráticos. Creemos en defender a Estados Unidos.
«Las líneas rojas que hemos trazado, las trazamos porque creemos que cruzarlas es contrario a los valores estadounidenses», dijo. «No estar de acuerdo con el gobierno es lo más americano del mundo. Y somos patriotas. En todo lo que hemos hecho aquí, hemos defendido los valores de este país».
Historia producida por David Rothman. Editor: George Pozderec.
