Claude de Anthropic ‘contaminaría’ la cadena de suministro de defensa: CTO del Pentágono

El director de tecnología del Departamento de Defensa, Emil Michael, dijo el jueves que los modelos de inteligencia artificial Claude de Anthropic «contaminarían» la cadena de suministro de la agencia porque tienen «una preferencia política diferente» incorporada.

«No podemos permitir que una empresa que tiene una preferencia política diferente, incorporada en el modelo a través de su constitución, su alma, sus preferencias políticas, contamine la cadena de suministro de modo que nuestros combatientes obtengan armas ineficaces, chalecos antibalas ineficaces, protección ineficaz», dijo Michael al programa «Squawk Box» de CNBC. «De ahí surgió realmente la designación de riesgo en la cadena de suministro».

Anthropic es la primera empresa estadounidense en ser etiquetada públicamente como un riesgo para la cadena de suministro, una medida extraordinaria que históricamente ha estado reservada para adversarios extranjeros. La designación requerirá que los contratistas y proveedores de defensa certifiquen que no utilizan a Claude en su trabajo con el Pentágono.

Los comentarios de Michael del jueves son la explicación más clara que el DOD ha ofrecido sobre por qué cree que Anthropic es un riesgo para la cadena de suministro. La agencia envió una carta oficial para notificar a la compañía sobre la designación a principios de este mes, pero la carta no describía qué riesgo representa Claude para la seguridad nacional.

Anthropic demandó a la administración Trump el lunes, calificando las acciones del gobierno de «sin precedentes e ilegales». Anthropic dijo en un documento que la empresa estaba sufriendo un daño «irreparable» y que cientos de millones de dólares en contratos están en peligro.

«Esto no pretende ser un castigo», dijo Michael el jueves.

Añadió que Anthropic tiene un «enorme negocio comercial» y que una «pequeña fracción» proviene del gobierno estadounidense. Michael también desestimó la afirmación de Anthropic de que el gobierno se había acercado activamente a las empresas y les había dicho que no usaran Anthropic, calificando la noción de «rumores».

«El Departamento de Guerra no se acerca a las empresas para decirles qué hacer, mientras no esté en nuestra cadena de suministro», dijo.

Anthropic fue fundada en 2021 por un grupo de investigadores y ejecutivos que desertaron de OpenAI. La compañía es mejor conocida por su familia de modelos Claude y desde el principio tuvo éxito vendiendo a grandes empresas, incluido el DOD.

La startup ha redactado y publicado una «constitución» que utiliza para ayudar a entrenar sus modelos Claude principales de acceso general. Anthropic dijo que la constitución juega un «papel crucial» en este proceso y que su contenido «da forma directamente al comportamiento de Claude», según su sitio web.

Anthropic compartió la versión más reciente de la constitución de Claude en enero.

«En él, explicamos lo que creemos que significa para Claude ser útil sin dejar de ser seguro, ético y cumplir con nuestras pautas», dijo Anthropic en una publicación de blog. «La constitución brinda a Claude información sobre su situación y ofrece consejos sobre cómo lidiar con situaciones difíciles y compensaciones, como equilibrar la honestidad con la compasión y la protección de información sensible».

Incluso después de que Anthropic fuera incluido en la lista negra, los modelos de la compañía se han utilizado para apoyar la operación militar de Estados Unidos en Irán, como informó anteriormente CNBC. Palantir El director ejecutivo Alex Karp dijo a CNBC el jueves que su empresa, que es un importante contratista de defensa, todavía utiliza Claude.

Michael dijo que llevará tiempo hacer la transición a otro proveedor y que el DOD no puede «simplemente arrancar» la tecnología de Anthropic de la noche a la mañana. Dijo que la agencia tiene un plan de transición.

«Esto no es sólo Outlook, donde puedes eliminarlo de tu escritorio», dijo Michael.

MIRAR: Vea la entrevista completa de CNBC con el subsecretario del Departamento de Defensa, Emil Michael