La dependencia del Departamento de Defensa de la inteligencia artificial de Anthropic fue un descubrimiento impactante que finalmente condujo a su dramática división, según un alto funcionario del Pentágono.
Emil Michael, subsecretario de investigación y desarrollo del departamento y director de tecnología, detalló los eventos que llevaron a la disputa pública en el episodio del viernes del podcast All-In.
Después de la incursión militar estadounidense en Venezuela a principios de enero que capturó al dictador Nicolás Maduro, Anthropic preguntó a Palantir si su IA se utilizó en la operación. Aunque Anthropic describió la investigación como rutinaria, el Pentágono y Palantir la vieron como una amenaza potencial a su acceso.
“Me pregunto, Dios, ¿qué pasa si este software falla, algunas vallas caen, se produce algún fallo en la próxima pelea como esta y dejamos a nuestra gente en peligro?” Recordó Michael. “Así que acudí al Secretario Hegseth y le dije que esto iba a suceder, y para todo el liderazgo del Pentágono, este era un momento en el que potencialmente somos tan dependientes de un proveedor de software que no hay otra alternativa”.
Hasta hace poco, Claude de Anthropic era el único modelo de IA autorizado para uso clasificado. La startup con sede en San Francisco dijo que es patriótica y está comprometida con la protección de Estados Unidos, pero no permitirá que su IA se utilice para vigilancia nacional masiva o armas autónomas.
El Pentágono insistió en que utilizaría la IA en escenarios legítimos y se negó a cumplir con cualquier restricción de la empresa más allá de esos límites.
Después de no poder llegar a un acuerdo la semana pasada, el presidente Donald Trump ordenó al gobierno federal que dejara de usar Anthropic, dándole al Pentágono seis meses para eliminarlo gradualmente. El secretario de Defensa, Pete Hegseth, también calificó a la empresa como un riesgo para la cadena de suministro, lo que significa que los contratistas no pueden utilizarla para trabajos militares.
Por ahora, el ejército sigue utilizando Anthropic durante la guerra de Estados Unidos con Irán, ya que la IA ayuda a los combatientes a identificar rápidamente objetivos potenciales.
Durante su aparición en el podcast, Michael expresó su preocupación de que un desarrollador deshonesto pudiera “envenenar el modelo” haciéndolo ineficaz para los militares, enseñándole a alucinar intencionalmente o instruyéndolo a no seguir instrucciones.
Luego se puso en contacto con OpenAI, que finalmente llegó a un acuerdo similar con Anthropic. La xAI de Elon Musk también se ha incluido en entornos clasificados, mientras que el Pentágono está intentando permitir que la inteligencia artificial de Google se utilice en entornos clasificados.
“No soy parcial”, dijo Michael. “Sólo los quiero a todos. Quiero darles a todos el mismo trato porque necesito despidos”.
Reconoció que Anthropic estaba “profundamente arraigado” en el departamento, mientras que otras empresas de inteligencia artificial no habían sido tan agresivas en la búsqueda de clientes empresariales para proporcionarles ingenieros prometedores.
El desacuerdo entre el Pentágono y Anthropic ha puesto de relieve un choque cultural entre el establishment de defensa y Silicon Valley, que tiene sus raíces en la innovación militar pero que desde entonces se ha vuelto escrupuloso a la hora de utilizar su tecnología en la guerra.
De hecho, la ingeniera líder en robótica de OpenAI anunció su salida de la empresa el sábado, citando las mismas preocupaciones planteadas por Anthropic.
“Esta no ha sido una decisión fácil. La IA desempeña un papel importante en la seguridad nacional. Pero espiar a los estadounidenses sin supervisión judicial y una autonomía letal sin permiso humano son líneas que merecen más discusión de la que han recibido”, escribió Caitlin Kalinowski en X y LinkedIn.
