¿Quién debería controlar la IA? ¿Son las corporaciones que producen tecnologías poderosas las artífices de su destino? ¿O debería transferirse este poder al gobierno?
Palmer Luckey, fundador de la empresa de defensa Anduril, cuyo objetivo es modernizar el ejército estadounidense, dice que la respuesta es simple: darle poder al gobierno. En una entrevista reciente con el New York Post, el multimillonario fundador intervino en el creciente debate sobre quién determinará cómo el gobierno utiliza la IA.
Para un multimillonario, el gobierno y por tanto el pueblo deben tomar decisiones específicas sobre su uso. De lo contrario, las empresas tecnológicas podrían poner en peligro la democracia.
“Tenemos que asumir la posición de que esto está en manos del pueblo”, afirmó. “Cualquiera que diga que una empresa de defensa debe ir más allá de la ley, más allá de lo que dicen los legisladores y los líderes electos sobre con quién trabajarán y con quién no, básicamente está diciendo que no cree en este experimento democrático y que quiere una “corporatocracia”.
“En cualquier caso, a quien el gobierno de Estados Unidos me diga lo que puedo o no puedo vender”, continuó, “ocupar cualquier otro puesto es caer aún más en… esencialmente los ejecutivos corporativos que controlan de facto la política exterior de Estados Unidos”.
Los pensamientos de Luckey surgen después de que el director ejecutivo de Anthropic, Dario Amodei, se negara a permitir que el Pentágono utilizara plenamente los sistemas de inteligencia artificial de la compañía para vigilancia masiva o para alimentar armas totalmente autónomas que operan sin supervisión humana. Como resultado, el Departamento de Defensa calificó a la empresa de inteligencia artificial como un “riesgo para la cadena de suministro”. El término suele asignarse a empresas rivales extranjeras como la china Huawei. Amodei dijo que la etiqueta no tendría mucho impacto en el negocio de la compañía y que emprendería acciones legales para revocar la designación. Sin embargo, continúa negociando con el Pentágono sobre el uso de sus modelos y herramientas de inteligencia artificial.
Pero Amodei, junto con los otros cofundadores de Anthropic, que juntos dejaron OpenAI para crear una empresa que, según dicen, prioriza la seguridad de la IA, argumentan que las demandas del Pentágono cruzan la línea. “Estas amenazas no cambian nuestra posición: no podemos, en conciencia, acceder a su petición”, dijo Amodei en un comunicado de prensa la semana pasada.
Anthropic no respondió de inmediato a la solicitud de comentarios de Fortune.
Silicon Valley contra Washington
El Departamento de Defensa (y figuras como Luckey) no creen que un contratista privado pueda dictar casos de uso y, en cambio, argumentan que está dentro del ámbito del gobierno. Poco después de que el acuerdo de Anthropic colapsara el mes pasado, OpenAI de Sam Altman llegó a un acuerdo con el Pentágono para permitir el uso de los modelos y herramientas de IA de la startup. xAI de Elon Musk también llegó a un acuerdo para permitir que el Pentágono utilice su inteligencia artificial, añadiendo competencia a la alguna vez exclusiva asociación de Anthropic.
Anthropic no es la primera empresa de tecnología que se opone al Departamento de Defensa. Como señala Luckey durante la entrevista, Google abandonó el Pentágono en 2018, retirándose del Proyecto Maven, que implicaba analizar imágenes de drones utilizando inteligencia artificial, después de que miles de empleados protestaran por la participación en el programa por temor a que pudiera conducir a la creación de armas autónomas.
“Tendríamos un mundo en el que los ejecutivos de Silicon Valley tendrían más poder en política exterior que el presidente de Estados Unidos”, dijo Luckey. “Es realmente muy peligroso”.
Para Luckey, todo se reduce a si las decisiones de alto nivel sobre IA pertenecen a Silicon Valley o a Washington. Independientemente de quién esté en la Casa Blanca, las empresas tecnológicas y el sector privado en general tienen la responsabilidad de cumplir con las decisiones de política exterior de esta administración, dijo.
Pero incluso cuando el conflicto entre los antropólogos y el Pentágono se intensifica, dijo Amodei en un comunicado de prensa el jueves, las dos partes pueden encontrar puntos en común. “Anthropic tiene mucho más en común con el Ministerio de Guerra que diferencias”, dijo.
