Según se informa, el secretario del Tesoro, Scott Bessent, y el presidente de la Reserva Federal, Jerome Powell, convocaron a los líderes de Wall Street a una reunión de emergencia el martes sobre el último modelo de inteligencia artificial de Anthropic, lo que generó preocupaciones sobre un mayor riesgo de ciberseguridad.
Bessent y Powell han reunido a un grupo de altos ejecutivos en la sede del Tesoro para asegurarse de que los bancos estén conscientes de los riesgos cibernéticos asociados con el nuevo modelo de Anthropic, Mythos, y modelos futuros similares, informaron Bloomberg y el Financial Times. Las fuentes que hablaron con Bloomberg dijeron que asistieron la directora ejecutiva de Citigroup, Jane Fraser, el director ejecutivo de Morgan Stanley, Ted Peake, el director ejecutivo de Bank of America, Brian Moynihan, el director ejecutivo de Wells Fargo, Charlie Scharf, y el director ejecutivo de Goldman Sachs, David Solomon. El director ejecutivo de JPMorgan, Jamie Dimon, también fue invitado, pero no pudo asistir, dijeron las personas.
La Reserva Federal se negó a hacer comentarios a Fortune. El Tesoro no respondió de inmediato a la solicitud de comentarios de Fortune.
La reunión se produce apenas unas semanas después de que Fortune informara en exclusiva que Anthropic estaba desarrollando un modelo inédito que la compañía llama “con diferencia, el modelo de inteligencia artificial más poderoso” que jamás haya desarrollado, cuya existencia Anthropic hizo pública inadvertidamente el mes pasado a través de su sistema de gestión de contenidos. Posteriormente, la empresa admitió que el modelo era Claude Mythos.
El martes, Anthropic publicó un informe titulado “Evaluación de las capacidades de ciberseguridad de Claude Mythos Preview”, señalando cómo el modelo pudo encontrar numerosas vulnerabilidades de hace 10 y 20 años, así como una vulnerabilidad de 27 años en OpenBSD, un sistema operativo con reputación de ser uno de los más seguros.
Anthropic informó a altos funcionarios del gobierno de EE. UU. y representantes de la industria sobre las capacidades de Mythos Preview antes de su lanzamiento, dijo a Fortune una persona familiarizada con el asunto. En una publicación de blog, la compañía dijo que está comprometida a trabajar con funcionarios de todos los niveles de gobierno para garantizar que la seguridad nacional sea una prioridad al introducir nuevos modelos de IA y que Estados Unidos mantenga el liderazgo en tecnologías de IA.
Anthropic dijo a Fortune que asociarse con el gobierno fue el plan de la compañía desde el principio (la compañía se encuentra actualmente en una batalla legal con el Pentágono después de que el Departamento de Defensa la incluyó en la lista negra por imponer restricciones al uso de su tecnología de inteligencia artificial).
El nuevo modelo de IA de Anthropic podría ‘cambiar la ciberseguridad’, por eso lanzó el Proyecto Glasswing
En asociación con JPMorgan Chase, Amazon y Google, entre otras empresas tecnológicas clave, Anthropic lanzó esta semana el Proyecto Glasswing, una iniciativa destinada a asegurar software de misión crítica en medio de avances en inteligencia artificial. Como parte de la asociación, dijo Anthropic en una publicación de blog, compartirá su experiencia con las industrias de tecnología y servicios financieros.
Además de sus socios, la compañía ha ampliado el acceso a 40 organizaciones adicionales que construyen o implementan infraestructura de software de misión crítica y ha comprometido hasta $100 millones en créditos Mythos Preview, la unidad más básica de uso de IA. Anthropic señaló que el proyecto se lanzó en respuesta a las oportunidades que la compañía identificó en su nuevo modelo Mythos Edge, que cree que podría “cambiar la ciberseguridad”.
“Dado el ritmo del progreso de la IA, tales capacidades pronto comenzarán a proliferar, potencialmente más allá de aquellos que buscan implementarlas de manera segura”, advierte el informe. “Las consecuencias (para la economía, la seguridad pública y la seguridad nacional) podrían ser graves”.
En un anuncio el martes, Anthropic dijo que inicialmente lanzará el nuevo modelo a un grupo limitado de socios de la industria para “permitir a los defensores comenzar a proteger sus sistemas más críticos antes de que modelos con capacidades similares estén ampliamente disponibles”.
Otros líderes empresariales han dado la voz de alarma sobre los riesgos de ciberseguridad que plantean los potentes modelos de inteligencia artificial. Dimon, en su carta anual a los accionistas, describió los riesgos de ciberseguridad que enfrentan las principales industrias y corporaciones debido a la IA y dijo que la ciberseguridad “sigue siendo uno de nuestros mayores riesgos”. Y añadió: “Es casi seguro que la IA exacerbará este riesgo”.
A través del Proyecto Glasswing, JPMorgan pretende mitigar los riesgos cibernéticos asociados con las capacidades de inteligencia artificial en rápida evolución. “Avanzar en la ciberseguridad y la resiliencia del sistema financiero es fundamental para la misión de JPMorgan Chase, y creemos que la industria es más fuerte cuando las instituciones líderes trabajan juntas en desafíos comunes”, dijo Pat Opet, director de seguridad de la información de JPMorgan, en un comunicado.
“El proyecto Glasswing brinda una oportunidad única para evaluar en una etapa temprana las herramientas de inteligencia artificial de próxima generación para la ciberseguridad defensiva en infraestructura crítica, tanto en nuestros propios términos como junto con líderes tecnológicos respetados”, agregó.
