Bienvenido a Eyes on Artificial Intelligence con la reportera de IA Sharon Goldman. En este episodio: Antes de las elecciones de mitad de período, Trump tiene un problema con su centro de datos de IA… No confíe en la IA para presentar sus impuestos… La herramienta de IA de Anthropic, “Claude”, está ocupando un lugar central en la campaña de Estados Unidos en Irán en medio de una amarga hostilidad.
El debate en torno a la seguridad de la IA a menudo se centra en la tecnología misma: cuán poderosos pueden llegar a ser los modelos o qué riesgos podrían plantear. Pero el conflicto de esta semana que involucra a Anthropic, OpenAI y el Pentágono apunta a un problema más profundo: cuánto poder sobre el futuro de la IA se concentra en manos de un pequeño número de líderes corporativos y funcionarios gubernamentales que deciden cómo se construyen, implementan y utilizan estos sistemas.
Durante años, los críticos de la industria han advertido sobre el riesgo de una “captura industrial”, un futuro en el que el desarrollo de poderosos sistemas de inteligencia artificial se concentra en manos de un puñado de empresas que trabajan en estrecha colaboración con los gobiernos, dejando que la seguridad de esos sistemas dependa de los incentivos y la competencia de las personas que los dirigen. Por ejemplo, en 2023, el investigador Yoshua Bengio afirmó que la posibilidad de que múltiples empresas controlaran el sector de la inteligencia artificial era el “problema número dos” detrás de los riesgos existenciales que planteaba la tecnología.
Por lo tanto, no es particularmente alentador leer ayer sobre el desdén que el CEO de Anthropic, Dario Amodei, expresó hacia el CEO de OpenAI, Sam Altman, en un memorando filtrado que Amodei escribió a los empleados el viernes. El enojado mensaje de Amodei, que aparentemente fue enviado a través de Slack de Anthropic a todos sus empleados, se produjo después de que OpenAI anunciara un acuerdo para proporcionar IA al Pentágono y el Secretario de Defensa, Pete Hegseth, dijera que estaba declarando a Anthropic un “riesgo para la cadena de suministro” por no lograr un acuerdo similar.
Amodei calificó las publicaciones de OpenAI como “mentiras”, “teatro de seguridad” y “un ejemplo de lo que realmente son”, al tiempo que caracterizó muchos de los comentarios de Altman como “mentiras descaradas” y “iluminación gaseosa”.
Altman tomó sus propias fotografías públicas en Anthropic. Recientemente calificó una de las campañas de la compañía para el Super Bowl como “claramente deshonesta” y la acusó de “ambigüedad”. Y la rivalidad se ha vuelto visible en una forma más simbólica: en una cumbre reciente, Altman y Amodei se volvieron virales por negarse a tomarse de la mano para una foto grupal con el primer ministro Narendra Modi.
Dado que el gobierno de EE. UU. prácticamente no ha tomado ninguna medida para regular la IA y que los esfuerzos internacionales para garantizar su seguridad están estancados en gran medida, el mundo depende efectivamente de la autorregulación de la industria. Tanto OpenAI como Anthropic han apoyado públicamente este paradigma y han firmado compromisos voluntarios de seguridad. También colaboraron de vez en cuando para realizar evaluaciones de seguridad independientes de los modelos de cada uno antes de su lanzamiento.
Pero cuando los líderes de dos de los laboratorios de inteligencia artificial más poderosos claramente no se llevan bien y la competencia entre ellos es tan feroz, surge una pregunta incómoda: ¿cuánta cooperación en materia de seguridad podemos esperar de manera realista?
Las presiones competitivas ya han afectado a ambas empresas en lo que respecta a la seguridad de la IA. Anthropic revisó recientemente su Política de Escalamiento Responsable y afirmó que ya no se negará unilateralmente a desarrollar un nuevo modelo simplemente porque aún no sabe cómo hacerlo seguro. Y OpenAI ha hecho sus propios ajustes, eliminando las prohibiciones explícitas de uso militar y militar de su política en 2024 y cambiando su enfoque de la investigación de seguridad al desarrollo de productos, hasta el punto de que el ex jefe de superconfiguración Jan Leike (que se fue a Anthropic a mediados de 2024) escribió en X que en OpenAI, “la cultura y los procesos de seguridad han pasado a un segundo plano frente a los productos brillantes”.
El enfoque actual de la seguridad supone que, en última instancia, las empresas y los gobiernos actuarán con moderación. Pero el futuro de la seguridad de la IA puede depender en última instancia de cómo un pequeño número de actores poderosos enfrenten las presiones de la competencia, la geopolítica y alguna que otra telenovela de Silicon Valley.
SUERTE CON LA IA
Por qué el fondo de cobertura de IA de Leopold Aschenbrenner está apostando fuerte por las empresas de energía y los mineros de Bitcoin para impulsar la carrera por la ‘superinteligencia’ – Sharon Goldman
OpenAI ve que los usuarios de Codex crecen a 1,6 millones y posiciona la herramienta de codificación como puerta de entrada a los agentes de IA para las empresas – Jeremy Kahn
La startup coreana WRTN está en camino de superar los 100 millones de dólares en ingresos anuales, gracias al auge del entretenimiento con IA impulsado por la epidemia de soledad – Nicholas Gordon
IA EN LAS NOTICIAS
De cara a las elecciones de mitad de mandato, Trump tiene problemas con los centros de datos de inteligencia artificial. CNBC y otros han informado que el presidente Trump enfrenta un dilema político cada vez mayor mientras Estados Unidos se apresura a construir centros de datos de inteligencia artificial que consumen mucha energía antes de las elecciones de mitad de período de 2026. La infraestructura necesaria para impulsar el auge de la inteligencia artificial está generando preocupaciones sobre el aumento de los precios de la energía y la tensión en la red, lo que provocó una reacción violenta de los votantes y las comunidades locales. En respuesta, las principales empresas de tecnología, incluidas OpenAI, Microsoft, Google, Amazon, Meta y Oracle, se han comprometido a cubrir los costos de energía e infraestructura asociados con sus centros de datos de IA para evitar que los consumidores tengan que pagar facturas de servicios públicos más altas. El acuerdo voluntario, promovido por la Casa Blanca como una manera de aliviar las preocupaciones de los votantes, refleja tensiones más amplias: los formuladores de políticas quieren los beneficios económicos y geopolíticos de la rápida propagación de la IA, pero las enormes demandas energéticas de la tecnología están creando presiones políticas y ambientales que son cada vez más difíciles de ignorar.
No confíes en la inteligencia artificial para recaudar tus impuestos. En resultados que no deberían sorprender a nadie: la prueba del New York Times encontró que la IA no cumple con el código tributario de los EE. UU., destacando una limitación importante de los chatbots de IA actuales: todavía luchan con tareas que requieren un razonamiento preciso y de varios pasos. Para evaluar la capacidad de la tecnología para presentar una declaración de impuestos federales, el documento probó cuatro chatbots de inteligencia artificial (Gemini de Google, ChatGPT de OpenAI, Claude de Anthropic y Grok de xAI) para ver qué tan bien manejaban ocho situaciones fiscales ficticias. Lucharon con uñas y dientes y calcularon mal el reembolso o la cantidad adeudada al IRS en un promedio de más de $2,000. Incluso cuando se les entregaron todos los materiales necesarios, incluidos todos los formularios que debían completarse, los chatbots no completaron algunos cálculos. El problema refleja una limitación fundamental de los grandes modelos lingüísticos: están diseñados para predecir palabras probables en lugar de rastrear con precisión información compleja e interconectada, lo que los hace fuertes para escribir y resumir, pero débiles para tareas procesales como presentar una declaración de impuestos. Los expertos dicen que los sistemas podrían mejorar con herramientas de razonamiento adicionales y capas de verificación, pero por ahora funcionan mejor como asistentes que como reemplazos, otro recordatorio de que incluso cuando la IA transforma industrias desde la programación hasta la medicina, algunas tareas aparentemente más simples siguen siendo sorprendentemente complejas.
La herramienta de inteligencia artificial Anthropic Claude es fundamental para la campaña estadounidense en Irán a pesar de la amarga hostilidad. Un nuevo informe de The Washington Post destaca la rapidez con la que la IA ha pasado de los experimentos al campo de batalla. Según el documento, el ejército estadounidense utilizó un sistema de objetivos basado en inteligencia artificial llamado Maven Smart System, construido por Palantir e incorporando el modelo Claude de Anthropic, para ayudar a identificar y priorizar objetivos durante las recientes operaciones estadounidenses en Irán, acelerando lo que antes llevaba semanas de planificación militar en decisiones casi en tiempo real. Sin embargo, el despliegue se produce en medio de una amarga disputa entre Anthropic y el Pentágono sobre las restricciones sobre cómo se puede utilizar su tecnología en la guerra, incluidas preocupaciones sobre armas autónomas y vigilancia masiva. El episodio destaca tanto la creciente importancia estratégica de los sistemas avanzados de inteligencia artificial como la tensión entre las demandas gubernamentales de un despliegue rápido y los intentos de las empresas de establecer límites de seguridad.
UNA MIRADA A LAS CIFRAS AI$ 25 mil millones.
Esa es la cantidad que OpenAI generaba año tras año a finales del mes pasado, según un informe de The Information. Eso es un aumento del 17% con respecto a los 21.400 millones de dólares en ingresos anuales que tenía a finales de año, según dos personas familiarizadas con las cifras.
OpenAI todavía genera más ingresos que su competidor más cercano, Anthropic, aunque la brecha se está cerrando rápidamente. Los ingresos anuales de Anthropic recientemente superaron los $19 mil millones, casi triplicando lo que eran a fines del año pasado y un aumento del 36% en tan solo las últimas dos semanas.
OpenAI calcula los ingresos anuales multiplicando los ingresos de las cuatro semanas anteriores por 12. Una fuente dijo que si la compañía, en cambio, extrapolara los picos de ingresos de la última semana, sus ingresos anuales estarían más cerca de los 30 mil millones de dólares.
El rápido crecimiento de Anthropic se ha visto impulsado en parte por la fuerte demanda de sus modelos de IA centrados en la codificación, que han ayudado a la empresa a cerrar rápidamente la brecha de ingresos con OpenAI. En 2025, OpenAI generó aproximadamente tres veces más ingresos que Anthropic.
¿TIENES UN CALENDARIO?
2 al 5 de marzo: Mobile World Congress, Barcelona, España.
12 al 18 de marzo: Sur por suroeste, Austin, Texas.
16 al 19 de marzo: Nvidia GTC, San José, California.
6 al 9 de abril: HumanX, San Francisco.
