Mientras trabajaba para un gran desarrollador de energía renovable, Varun Sivaram se dio cuenta de que el auge de la inteligencia artificial y los centros de datos estaba superando la construcción de nuevas plantas de energía, incluso cuando los tiempos de espera de interconexión aumentaban.
“Me di cuenta de que no podremos encontrar una salida a esta situación. Necesitamos una demanda razonable”, dijo Sivaram a la revista Fortune.
En un esfuerzo por abordar esta necesidad, Sivaram fundó una empresa de software llamada Emerald AI para brindar flexibilidad de red para centros de datos al reducir significativamente el consumo de energía durante los períodos pico de la red en los días más calurosos o más fríos de cada año sin comprometer el rendimiento de la IA.
Además de mejorar la eficiencia energética, el objetivo es acelerar la conexión de las fábricas de IA y sus centrales eléctricas a la red manteniendo al mismo tiempo los “cinco nueves”, un término industrial para una confiabilidad del 99,999%.
Llamémoslo el enfoque Disney FastPass, ahora conocido como Lightning Lane, para avanzar rápidamente a través de la cuadrícula de cola.
“Lo llamamos seguimiento rápido de arranque flexible”, dijo Sivaram, corrigiendo la referencia de Disney con una risa.
La propuesta de Emerald AI rápidamente obtuvo respaldo financiero y apoyo de Nvidia, lo que ayudó a acelerar el crecimiento y la adopción de software de inteligencia artificial por parte de la empresa. “IA para IA”, dijo.
El 31 de marzo, Emerald AI anunció la finalización de una ronda de financiación estratégica de 25 millones de dólares con Nvidia NVentures, Eaton, GE Vernova, Radical Ventures, Salesforce, Samsung, Siemens y otros, incluido IQT, el brazo de capital de riesgo de la CIA y otras agencias de inteligencia estadounidenses. La ronda fue liderada por Energy Impact Partners. Esto eleva la financiación total en los 16 meses desde la fundación de Emerald a 68 millones de dólares.
La semana pasada, Emerald y Nvidia se asociaron con los principales productores de energía de EE. UU., incluidos AES, Constellation Energy, Invenergy, NextEra Energy y Vistra.
Y a finales de este año, una vez que la serie de pilotos tenga éxito, Emerald y Nvidia abrirán la primera fábrica comercial de IA flexible en Virginia, la Nvidia Vera Rubin AI Factory de 96 megavatios.
“El advenimiento de la revolución de la IA significó que esta idea tuvo que llegar al horario de máxima audiencia porque de repente las fábricas de IA se estaban quedando sin energía”, dijo Sivaram. “Históricamente, los centros de datos no han tenido problemas de suministro de energía. Solían representar menos del 5% de la red, pero en una década ahora se acercan al 25% del suministro de energía estadounidense”.
Como dijo Joe Domínguez, director ejecutivo de Constellation: “No tenemos un problema de suministro, tenemos un problema de pico”.
Y las “fábricas de inteligencia artificial en red” de Emerald están diseñadas para resolver este problema.
Pase rápido de Nvidia
Si bien el software de Emerald tiene como objetivo acelerar la creación de fábricas de IA, fue el apoyo inicial de Nvidia lo que aceleró el desarrollo de Emerald.
“Estamos entusiasmados de poder comercializar esto y promoverlo más ampliamente”, dijo Mark Spieler, director general senior de energía global de Nvidia. “Los pilotos han tenido mucho éxito. Creemos que esto abrirá el potencial para poner en línea más fábricas de IA más rápido, utilizando más electrones no explotados en la red”.
Su objetivo a largo plazo es que las fábricas de inteligencia artificial de energía flexible liberen hasta 100 gigavatios de capacidad adicional de la red eléctrica estadounidense existente a través de mejoras en la eficiencia. En comparación, 100 gigavatios podrían alimentar aproximadamente 75 millones de hogares.
Un estudio de interconexión puede llevar años de revisión regulatoria, pero si se puede proporcionar flexibilidad energética durante los períodos pico, los desarrolladores pueden obtener una conexión casi inmediata a la red, dijo Spieler a Fortune. “Nuestro objetivo es conectarnos lo más posible sin salirnos del medidor, no estar aislados y ser flexibles”, dijo. “Realmente se puede considerar esto como una respuesta muy reactiva que requiere una respuesta masiva”.
Y Nvidia estaba feliz de apoyar el potencial de Emerald. Este está lejos de ser el único soporte que NVentures anunció el 31 de marzo. ThinkLabs, una empresa de inteligencia artificial centrada en reducir la investigación de redes eléctricas de años a minutos, anunció una ronda de financiación Serie A de 28 millones de dólares, también liderada por Energy Impact Partners.
“Somos una empresa de ecosistema. Llegamos al mercado a través de socios. No importa si son Fortune 100, Fortune 10 o una startup de IA”, añadió Spieler. “Si alguien tiene la idea correcta y es capaz de implementarla, lo apoyaremos y llenaremos el vacío”.
Cómo funciona esto
Hace ocho años, Sivaram escribió el libro Domar el Sol: Innovaciones en el aprovechamiento de la energía solar y el suministro de energía al planeta.
En él, documentó los esfuerzos de Microsoft para trasladar cargas de trabajo entre múltiples ubicaciones en la búsqueda de energía más limpia. Y más tarde, Google trabajó para trasladar más trabajo informático de la noche a la mañana para aprovechar al máximo la energía eólica.
“Pensé: ‘¿No sería fantástico si, en lugar de intentar mover los electrones hacia donde están los bits, los bits pudieran moverse hacia donde están los electrones?’ O los ritmos podrían controlarse virtualmente: ralentizarse o pausarse”, dijo Sivaram.
De esta idea nació la plataforma Emerald Conductor, que permite la “organización” de los recursos energéticos locales junto con flexibilidad computacional para que los proyectos puedan conectarse y soportar la red más rápido.
“Hemos descubierto que existe una flexibilidad inherente que podemos aprovechar porque algunas cargas de trabajo de IA pueden retrasarse un poco y los clientes están de acuerdo con eso”, afirmó. “Algunas cargas de trabajo de IA se pueden trasladar de un lugar a otro con una latencia aceptable para los clientes.
“Y puede haber recursos en el sitio del centro de datos, como una batería (de almacenamiento) o un generador (de respaldo), que también podemos aprovechar. Emerald AI encuentra formas de activar todas estas diferentes palancas de flexibilidad para proporcionar una respuesta muy precisa a la red”, agregó Sivaram.
Gracias a las pruebas y proyectos piloto, las misiones críticas del cliente continuaron funcionando sin degradación de la calidad, afirmó. “Continuaron operando al 100% de productividad”.
