Sam Altman dijo a los empleados de OpenAI en una reunión general el viernes por la tarde que estaba surgiendo un posible acuerdo con el Departamento de Guerra de EE. UU. para utilizar los modelos y herramientas de inteligencia artificial de la startup, según una fuente presente en la reunión y un resumen de la reunión revisado por Fortune. El contrato aún no se ha firmado.
La reunión se produjo al final de una semana en la que el conflicto entre el Secretario de Guerra Pete Hegseth y el competidor de OpenAI, Anthropic, estalló en odio público y terminó con la aparente terminación de los contratos de Anthropic con el Pentágono y con el gobierno federal en su conjunto.
Altman dijo que el gobierno está dispuesto a permitir que OpenAI construya su propia “pila de seguridad” (es decir, el sistema estratificado de controles técnicos, políticos y humanos que se ubica entre un modelo de IA poderoso y su uso real) y que si el modelo se niega a realizar una tarea, entonces el gobierno no obligará a OpenAI a realizar esa tarea.
OpenAI mantendrá el control sobre cómo se implementan los controles técnicos de seguridad, qué modelos se implementan y dónde, y limitará la implementación a entornos de nube en lugar de a “sistemas de borde”. (En un contexto militar, los sistemas de vanguardia son una categoría que podría incluir aviones y drones). Altman dijo a los empleados que esto sería una concesión importante: el gobierno dijo que estaba dispuesto a incluir las “líneas rojas” declaradas por OpenAI en el contrato, incluido no usar IA para impulsar armas autónomas, prohibir la vigilancia masiva nacional y tomar decisiones críticas.
OpenAI y el Departamento de Guerra no respondieron de inmediato a las solicitudes de comentarios.
Sasha Baker, jefa de política de seguridad nacional de OpenAI, y Katrina Mulligan, jefa de política de seguridad nacional para el gobierno de OpenAI, también hablaron en la conferencia de OpenAI, dijo la fuente. Uno de esos funcionarios dijo que las relaciones con Anthropic y el gobierno se deterioraron porque el director ejecutivo y cofundador de Anthropic, Dario Amodei, insultó al liderazgo del departamento militar, incluida la publicación de publicaciones en blogs que “molestaron al departamento”.
Anthropic, una empresa fundada por personas que abandonaron OpenAI por motivos de seguridad, fue el único importante fabricante comercial de IA cuyo uso fue aprobado por el Pentágono, implementado a través de una asociación con Palantir. Pero los ejecutivos de Anthropic y el Pentágono habían estado envueltos en una disputa durante días sobre las restricciones que Anthropic quería imponer al uso de su tecnología. Esencialmente, estas restricciones son las mismas que Altman dijo que el Pentágono cumpliría si utilizara la tecnología OpenAI.
Anthropic rechazó las demandas del Pentágono de eliminar las salvaguardias del modelo Claude que limitarían usos como la vigilancia masiva doméstica o armas totalmente autónomas, incluso cuando los funcionarios del Departamento de Defensa insistieron en que los modelos de IA deben estar disponibles “para todos los fines legales”. El Pentágono, incluido el secretario de Guerra, Pete Hegseth, advirtió a Anthropic que podría perder el contrato por valor de hasta 200 millones de dólares si no cumplía con los términos del contrato. Altman ha declarado anteriormente que OpenAI comparte las “líneas rojas” de Anthropic al limitar ciertos tipos de usos militares de la inteligencia artificial, enfatizando que si bien OpenAI está en conversaciones con el gobierno de EE. UU., enfrenta las mismas tensiones subyacentes que ahora se desarrollan públicamente entre Anthropic y el Pentágono.
La presentación de OpenAI se produce justo después de que el presidente Trump anunciara que el gobierno federal pondría fin a su asociación con Anthropic, intensificando drásticamente el conflicto del gobierno con la empresa por sus modelos de inteligencia artificial.
“Estoy ordenando a todas las agencias federales del gobierno de Estados Unidos que cesen inmediatamente todo uso de tecnología antrópica. ¡No la necesitamos, no la queremos y no volveremos a tener nada que ver con ellos!” Trump dijo esto en una publicación en Truth Social. El Departamento de Guerra y otras agencias que utilizan modelos Anthropic Claude recibirán un período de eliminación gradual de seis meses, dijo.
En la conferencia OpenAI, se les dijo a los empleados que el aspecto más desafiante del acuerdo para la gerencia era la preocupación por la vigilancia extranjera y que había serias preocupaciones de que la vigilancia impulsada por IA amenazara la democracia, según la fuente. Sin embargo, los ejecutivos de las empresas también parecieron aceptar el hecho de que los gobiernos espiarán a los adversarios a nivel internacional, reconociendo las afirmaciones de que los agentes de seguridad nacional “no pueden hacer su trabajo” sin capacidades de vigilancia internacional. Se hizo referencia a informes de inteligencia sobre amenazas que muestran que China ya está utilizando modelos de inteligencia artificial para atacar a los disidentes en el extranjero.
