Hola y bienvenido a Eye on AI. En este episodio… por qué debería importarte realmente Moltbook… OpenAI planea una oferta pública inicial… Elon Musk fusiona SpaceX y xAI… Los recién llegados no están obteniendo tanto valor de la IA como la gente piensa… y por qué necesitamos una regulación de la IA ahora.
Esta semana, todos en AI, y muchas personas fuera de ella, estaban hablando de Moltbook. Una plataforma de redes sociales creada para agentes de IA se ha convertido en una sensación viral. Este fenómeno tiene a mucha gente, incluso a un buen número de investigadores de IA normalmente sobrios y con los pies en la tierra, preguntándose en voz alta qué tan lejos estamos de los escenarios de “despegue” de ciencia ficción en los que los robots de IA se autoorganizan, se automejoran y eluden el control humano.
Ahora parece que gran parte del alarmismo sobre Maltbook estaba fuera de lugar. En primer lugar, no está claro cuántas de las publicaciones de ciencia ficción en Moltbook fueron creadas espontáneamente por bots, y cuántas aparecieron sólo porque los usuarios humanos pidieron a sus agentes de OpenClaw que las mencionaran. (Todos los bots en Moltbook fueron creados usando el exitoso OpenClaw, que es esencialmente un “sistema” de agente de código abierto (software que permite a los agentes de IA usar una variedad de otras herramientas de software) que puede vincularse a cualquier modelo de IA subyacente.) Incluso es posible que algunos de los mensajes en realidad hayan sido escritos por personas que se hacen pasar por bots.
En segundo lugar, no hay evidencia de que los robots realmente estuvieran planeando hacer algo nefasto juntos, en lugar de simplemente imitar el lenguaje de conspiración que pudieron haber aprendido en su entrenamiento, que incluye mucha literatura de ciencia ficción, así como registros históricos de mucha actividad humana incompleta en las redes sociales.
Como señalé hoy en un artículo para Fortune, muchos de los titulares aterradores que rodean a Moltbook se hicieron eco de los del experimento de Facebook de 2017 en el que dos chatbots desarrollaron un “lenguaje secreto” para comunicarse entre sí. Entonces, como ahora, muchos de mis colegas periodistas no permitieron que los hechos interfirieran con una buena historia. Ni este antiguo estudio de Facebook ni Moltbook representan una amenaza similar a la de Skynet, como sugieren algunos informes.
Ahora las malas noticias. Por qué Yann LeCun se equivocó… sobre los humanos, no sobre la IA
Hace unos años, asistí a un evento en el Laboratorio de Investigación de IA de Facebook en París, donde habló Yann LeCun, quien era el científico jefe de inteligencia artificial de Meta en ese momento. LeCun, quien recientemente dejó Meta para lanzar su propia startup de IA, siempre se ha mostrado escéptico ante los escenarios de “despegue” en los que la IA escapa al control humano. Y en el evento, ridiculizó la idea de que la IA alguna vez representara un riesgo existencial.
Primero, LeCun cree que la IA actual es demasiado tonta y poco confiable para hacer algo que amenace al mundo. Pero en segundo lugar, LeCun encontró estos escenarios de despegue de IA ofensivos para los investigadores e ingenieros de IA como clase profesional. “No somos estúpidos”, afirmó LeCun. Si alguna vez construimos algo donde exista la más mínima posibilidad de que la IA se salga del control humano, siempre lo construiremos en una zona de pruebas “bloqueada”, sin acceso a Internet y con un interruptor de apagado que la IA no puede apagar. Según LeCun, los ingenieros siempre podrán cortar con un hacha el cable de alimentación de una computadora antes de que la IA pueda descubrir cómo salir de su jaula digital.
Bueno, esto puede ser cierto para los investigadores e ingenieros de IA que trabajan para grandes empresas como Meta o Google DeepMind, OpenAI o Anthropic. Pero ahora la IA, gracias a la llegada de agentes y asistentes de codificación, ha democratizado la creación de la propia IA. Ahora un mundo lleno de desarrolladores independientes puede crear agentes de IA. Peter Steinberger, creador de OpenClaw, es un desarrollador independiente. Matt Schlicht, el creador de Moltbook, es un emprendedor independiente que programó la plataforma social. Y a diferencia de LeCun, los desarrolladores independientes han mostrado consistentemente su voluntad de sacar los sistemas de inteligencia artificial del sandbox y ponerlos en la naturaleza, aunque solo sea para ver qué sucede… solo para los LOL.
SUERTE CON LA IA
La IA está cambiando el papel del CEO y podría provocar un cambio de guardia, Phil Wahba
OpenAI lanza la aplicación Codex para llevar sus modelos de codificación, que se utilizaron para crear el OpenClaw viral, a más usuarios – Beatrice NolanExclusiva: Anthropic anuncia asociación con Allen Institute y Howard Hughes Medical Institute, apostando a que la IA puede hacer que la ciencia sea más eficiente – Sharon GoldmanExclusiva: David Silver, investigador de Google DeepMind desde hace mucho tiempo, se marcha para iniciar su propia startup de inteligencia artificial – Jeremy Kahn
IA EN LAS NOTICIAS
OpenAI está sentando las bases para una oferta pública inicial en 2026 en una carrera con Anthropic y SpaceX. OpenAI está sentando las bases para una oferta pública inicial (IPO) en el cuarto trimestre, manteniendo conversaciones informales con bancos de Wall Street y ampliando su equipo financiero, ya que aspira a convertirse en la primera gran startup de IA generativa en salir a bolsa antes que su rival Anthropic, informa el Wall Street Journal. La medida se produce a pesar de importantes desafíos, incluidas grandes pérdidas, una mayor competencia de Google, la inminente batalla legal del cofundador Elon Musk y las preocupaciones de los inversores sobre cómo OpenAI financiará cientos de miles de millones de dólares en infraestructura de inteligencia artificial y obligaciones de chips. A los ejecutivos les preocupa que Anthropic, cuyas ganancias están aumentando y que ha anunciado una oferta pública inicial este año, pueda ganarles en el mercado, mientras que otros gigantes tecnológicos como SpaceX también están considerando cotizaciones de gran éxito que podrían competir por la atención de los inversores.
OpenAI también está en conversaciones para recaudar hasta 50 mil millones de dólares en una etapa previa a la IPO. Amazon está en conversaciones para invertir hasta 50 mil millones de dólares en OpenAI, con el director ejecutivo Andy Jassy y el jefe de OpenAI, Sam Altman, manteniendo conversaciones directas como parte de una posible ronda de financiación que podría rondar los 100 mil millones de dólares, informa CNBC. La inversión sería notable dado que Amazon ha comprometido 8 mil millones de dólares para Anthropic, competidor de OpenAI. El acuerdo podría incluir un acuerdo para que OpenAI utilice los chips de inteligencia artificial y la infraestructura de nube de Amazon, que Anthropic también utiliza actualmente. Las conversaciones se producen en un momento en que Amazon aumenta el gasto en inteligencia artificial y centros de datos (al tiempo que recorta puestos de trabajo en otros lugares) y en que OpenAI busca otros inversores estratégicos, incluidos Microsoft, Nvidia y SoftBank, antes de una posible oferta pública inicial (IPO).
UNA MIRADA A LA INVESTIGACIÓN EN IA
Más pruebas de que la IA puede no ser tan buena para los principiantes. Ésa es la importancia de un nuevo estudio de Anthropic, que realizó una prueba aleatoria para ver cómo los programadores dominaban una nueva biblioteca de programación, comparando a los que tenían un asistente de IA con los que no. Contrariamente a la creencia popular, dar acceso a la IA a los programadores menos experimentados no mejoró significativamente su productividad, pero sí afectó su capacidad para aprender la biblioteca de codificación. Sólo cuando estos programadores junior delegaron toda la tarea de codificación a la IA vieron ganancias significativas en la productividad. Pero en estos casos, los programadores tampoco aprendieron casi nada sobre la biblioteca de codificación. La investigación se puede encontrar aquí en arxiv.org.
¿TIENES UN CALENDARIO?
10 y 11 de febrero: Cumbre de Acción de AI, Nueva Delhi, India.
24-26 de febrero: Asociación Internacional para una Inteligencia Artificial Ética y Segura (IASEAI), UNESCO, París, Francia.
2 al 5 de marzo: Mobile World Congress, Barcelona, España.
12 al 18 de marzo: Sur por suroeste, Austin, Texas.
16 al 19 de marzo: Nvidia GTC, San José, California.
NUTRICIÓN PARA EL CEREBRO
Necesitamos una regulación integral de la IA: en el Reino Unido y EE. UU. Hoy visité la Cámara de los Lores para una mesa redonda con motivo del lanzamiento del informe parlamentario de una página de Lord Chris Holmes de Richmond. Holmes aboga por un proyecto de ley integral sobre inteligencia artificial, que presentó hace casi tres años pero que aún no ha logrado avances. Espera presionar al actual gobierno del Reino Unido, que ha prometido un proyecto de ley sobre IA pero que en repetidas ocasiones no lo ha cumplido, para que presente su propia legislación. Maltbook es otra razón por la que ahora es el momento de hacer esto. Esto también se aplica a Estados Unidos, donde la administración Trump se resiste activamente a cualquier regulación.
Ya existe amplia evidencia de que la IA está dañando a las personas. Los chatbots de IA han estado implicados en una serie de suicidios, y los terapeutas informan que cada vez más pacientes están surgiendo con formas de psicosis que parecen haber sido causadas por interacciones con chatbots de IA. La gente ha utilizado la IA para crear deepfakes sexualizados y no consensuados y distribuirlos en línea. A las personas se les niegan préstamos debido a algoritmos. Peor aún, fueron arrestados injustamente por su culpa. Y ahora OpenClaw y Moltbook son un recordatorio oportuno de que actualmente no existen reglas, gobernanza ni protecciones de ciberseguridad efectivas en torno a los agentes de IA.
No esperemos a que ocurra un verdadero desastre de IA.
