El presidente Donald Trump acusó a Anthropic de poner en peligro a las tropas y la seguridad nacional, pero el director ejecutivo Dario Amodei dijo que su empresa es patriótica.
“Creo que debemos defender a nuestro país de adversarios autocráticos como China y Rusia”, dijo. “Y por eso nos hemos apoyado mucho. Contamos con un importante equipo del sector público”.
Aunque Anthropic proporcionó su IA al gobierno, el Pentágono exigió su uso sin restricciones en todos los escenarios legales. Pero la compañía dice que tiene “líneas rojas”, concretamente su uso en vigilancia masiva doméstica y armas autónomas.
Las negociaciones no lograron llegar a un acuerdo, lo que llevó a Trump a prohibir el uso de Anthropic en agencias gubernamentales y al mismo tiempo le dio al Pentágono un período de eliminación gradual de seis meses.
El secretario de Defensa, Pete Hegseth, también calificó a la empresa como un “riesgo para la cadena de suministro”, lo que significa que a otros contratistas del Pentágono no se les permitiría utilizar la IA de Anthropic para trabajos militares.
Amodei dijo a CBS que Anthropic se utiliza en el 98-99% de los usos militares. Pero su preocupación por la vigilancia masiva es que la última IA cambia las reglas del juego, incluso dentro de las restricciones legales actuales.
“En realidad no es ilegal. Simplemente nunca fue útil antes de la era de la inteligencia artificial. Así que hay una forma en la que la vigilancia masiva doméstica está superando a la ley”, explicó. “La tecnología se está desarrollando tan rápido que va en contra de la ley”.
En cuanto a las armas autónomas, Amodei dijo que la inteligencia artificial no es lo suficientemente confiable como para eliminar completamente a los humanos del proceso, señalando un problema técnico de “imprevisibilidad básica” en los modelos actuales.
Actualmente no tiene conocimiento de ningún ejemplo real de un usuario que haya violado la línea roja de Anthropic, pero reconoció que no es práctico para una empresa privada abordar estos problemas a largo plazo.
En última instancia, el Congreso debe establecer límites al uso de la IA, pero los legisladores están avanzando lentamente, afirmó Amodei. La empresa tampoco “se opone en absoluto a las armas totalmente autónomas”, pero cree que aún no se ha logrado la fiabilidad de la IA.
Mientras tanto, Anthropic sigue abierta a trabajar con el gobierno y anima a ambas partes a mantener el contacto.
“Estamos dispuestos a poner nuestros modelos a disposición de todas las ramas del gobierno, incluido el Departamento de Guerra, la comunidad de inteligencia y las ramas civiles del gobierno, bajo las condiciones que hemos proporcionado dentro de nuestras líneas rojas”, dijo.
La inclusión de Anthropic en la lista negra por parte de Trump y Hegseth se produjo horas antes de que Estados Unidos e Israel lanzaran ataques aéreos a gran escala contra Irán en lo que parece ser un conflicto prolongado destinado a un cambio de régimen.
La IA se ha convertido en una herramienta fundamental para los militares, especialmente para identificar objetivos y predecir el comportamiento del enemigo mediante un rápido análisis de inteligencia.
Cuando CBS le preguntó qué le diría a Trump ahora, Amodei respondió: “Yo diría que somos estadounidenses patriotas. Todo lo que hemos hecho ha sido por este país, para apoyar la seguridad nacional de Estados Unidos. Nuestro paso adelante en el uso de nuestros modelos con el ejército fue porque creemos en este país”.
Pero añadió: “Las líneas rojas que trazamos, las trazamos porque creemos que cruzarlas es contrario a los valores estadounidenses. Y queríamos defender los valores estadounidenses”.
“Flotando sobre Antrópico” es la designación del jefe del Pentágono de un riesgo en la cadena de suministro, una medida sin precedentes contra una empresa estadounidense que podría obstaculizar su crecimiento.
Amodei lo calificó de medida punitiva, pero minimizó el daño potencial y dijo que no afectaría el trabajo no relacionado con la defensa realizado por los clientes de Anthropic.
“Estaremos bien”, dijo. “El impacto de este nombramiento es bastante pequeño. La intención del tuit que publicó el secretario era crear incertidumbre, crear una situación en la que la gente pensara que el impacto sería mucho mayor, crear miedo, incertidumbre y duda. Pero no permitiremos que esto tenga éxito. Estaremos bien”.
