Hacia una computación más fresca y más verde: microfluídica y computación termodinámica

En un momento en el que los centros de datos crecen sin parar para alimentar la demanda de inteligencia artificial (IA), dos innovaciones tecnológicas están emergiendo como posibles salvavidas para un futuro más sostenible: la microfluídica para la refrigeración de chips y la computación termodinámica para hacerlos más eficientes desde el punto de vista energético, hay veces que no es la IA o el avance más probable en tecnologías, hay veces que tan solo hay que mirar a la naturaleza, y ver como fluyen los sustentos en el ala de una mariposa o en las hojas de un árbol, para inspirar grandes avances, esto es un ejemplo.

1. Microfluídica: enfriando los chips desde dentro

Una de las grandes limitaciones de los centros de datos modernos es el calor. Los chips de IA son cada vez más potentes, pero también generan más temperatura, y refrigerarlos consume tanto electricidad como agua. Aquí es donde entra en juego la “microfluídica”, una técnica que literalmente introduce líquido refrigerante dentro de los chips.

Microsoft ha dado un paso muy relevante: ha probado con éxito un sistema de microcanales grabados directamente en el silicio del chip, por donde fluye el líquido refrigerante justo donde se produce el calor. Con esto han logrado enfriar hasta 3 veces más eficazmente  que con las placas frías tradicionales (“cold plates”).

Además, usan IA para mapear dónde están los “puntos calientes” del chip y dirigir con precisión el líquido solo a esas zonas. En sus pruebas han reducido el aumento máximo de temperatura en el silicio hasta un 65 %.

¿Por qué es tan importante esto? Porque este método de enfriamiento no solo mejora el rendimiento de los chips (pueden trabajar más intensamente), sino que puede disminuir el consumo, de energía y agua, al requerir líquidos menos fríos (De hecho en las pruebas entra agua a 40ºC y sale a 70ºC) y reducir la infraestructura pesada de enfriamiento. Además, gracias a una mejor gestión térmica, podría facilitar diseños más densos (más chips en menos espacio, un objetivo perseguido que tenía el problema de la disipación de calor) o incluso chips apilados en 3D (sí, hablamos de extender una tercera dimensión los chips gracias a crear capas de microfuidos y no tener la obligación, hasta ahora imposible, de refrigerar esas capas internas por la falta de contacto con las cold plates o piezas disipadoras de calor), lo que abre la puerta a más potencia sin aumentar el tamaño del datacenter.. ..así evitar el uso de millones de litros de agua, un gasto de recursos que no podemos permitirnos. Incluso podemos ver la manera de aprovechar esa energía de calor disipado.

En definitiva: la microfluídica podría reducir sustancialmente el gasto energético y de agua en refrigerar los centros de datos del futuro.

2. Computación termodinámica: usar el “ruido” térmico en vez de combatirlo

La segunda gran innovación viene de la “computación termodinámica”, y en este campo destaca una empresa llamada –Extropic-. Su apuesta es radical: en lugar de hacer cálculos utilizando bits tradicionales que solo pueden estar en 0 o en 1, sus chips usan “p-bits” (bits probabilísticos) que fluctúan entre estos valores de forma natural, aprovechando justamente el ruido térmico que normalmente se considera un problema (esta vez no ha sido echar un vistazo a la naturaleza, o también…porque ese ruido es natural…,  que nos rodea, ha sido invertir los términos de algo que la ingenieria ha tratado siempre de combatir y utilizarlo a nuestro favor de una forma genial y creativa)

Estos p-bits están agrupados en lo que Extropic llama TSU  (Thermodynamic Sampling Unit). La idea es que, en lugar de simular aleatoriedad mediante operaciones complejas en una GPU, el TSU genera directamente muestras (“samples”) a partir de distribuciones probabilísticas, lo que lo hace muchísimo más eficiente. De hecho, según Extropic, sus simulaciones indican que podrían llegar a ser ,hasta 10.000 veces más eficientes energéticamente, (una burrada de avance) que las GPUs convencionales para ciertos modelos de IA generativa.

¿Cómo lo logran? Simplificando: los p-bits son circuitos que cambian entre 0 y 1 de forma aleatoria, pero controlable mediante voltajes. Luego se combinan muchos de esos p-bits para formar modelos más complejos mediante un algoritmo conocido como “Gibbs sampling”. Además, al diseñar los TSU de forma que la comunicación entre los p-bits sea local (solo entre circuitos cercanos), se reduce muchísimo el gasto energético en movimiento de datos. (Hay camino que recorrer, porque esta novedosa técnica nos obliga a programar las cosas de una nueva manera, no nos sirve lo que hoy mueve a las GPUs, o NPUs)

Otro punto a favor: Extropic ha desarrollado también un modelo de IA (Denosing Thermodynamic Model, DTM) hecho a medida para sus TSU, optimizado para consumir muy poca energía mientras genera datos. (Tal vez inspirados por las propias técnicas de generación de imágenes a partir de ruido aleatorio…quien sabe)

Extropic ya en 2024 estaba construyendo una plataforma de hardware completa para aprovechar las fluctuaciones naturales de la materia como recurso informático para la IA generativa. Este nuevo paradigma informático amplía la escala del hardware mucho más allá de las limitaciones de la informática digital. Permite crear aceleradores de IA que son varias veces más rápidos y eficientes energéticamente que los procesadores digitales (CPU/GPU/TPU/FPGA) y desbloquea potentes algoritmos probabilísticos de IA que no son factibles en procesadores digitales.

Infografía MicroFluidíca y Computación Termodinámica

3. ¿Qué implican estos avances para el futuro?

.- Menor consumo energético: si los centros de datos adoptan microfluídica, podría bajar mucho el gasto de energía para refrigeración. Y si los TSU se usan para algunas tareas de IA, el propio cálculo sería mucho más eficiente.

.-Menor consumo de agua: enfriar con microcanales permite usar líquidos menos fríos, lo que podría reducir la necesidad de torres de enfriamiento intensas o evaporativas.

.-Más potencia en espacios más pequeños: gracias a una mejor refrigeración y chips más eficientes, se podrían meter más servidores en menos espacio. (Ley de Moore al cajón del olvido)

.-Sostenibilidad: estos avances podrían hacer que el crecimiento de la IA no tire tanto de recursos como ocurre hoy, contribuyendo a un modelo de computación más responsable.

En conjunto, la microfluídica y la computación termodinámica ofrecen una visión muy prometedora para el futuro de la computación: no solo más potente, sino también más verde. Si logramos llevar estas tecnologías a gran escala, podríamos resolver uno de los grandes dilemas actuales: cómo seguir creciendo en capacidad de cómputo sin que el coste energético y el impacto ambiental se disparen.

En Domodesk, siempre intentamos estar al tanto del estado-del-arte en tecnología, al final la tecnología es la referencia que guía nuestros pasos ;-).

Para saber más (Fuentes)

https://news.microsoft.com/source/features/innovation/microfluidics-liquid-cooling-ai-chips

https://extropic.ai/writing/thermodynamic-computing-from-zero-to-one

https://extropic.ai/writing/tsu-101-an-entirely-new-type-of-computing-hardware

TESLA, un ratito con Elon Musk, IA aplicada y otros tantos

El días 19, TESLA convoco un “AI Day”, día de la inteligencia artificial IA, con la idea de motivar la búsqueda de talento y con la intención de desvelar algunos de los sistemas, productos y futuros en los que se están moviendo.

Mi impresión sobre el acto, TESLA está revolucionando, no solo, el mundo de la industria manufacturera de la automoción, está sentando las bases sobre la que se va a fundamentar la industria del silicio, hardware, supercomputación orientada a redes neuronales, desarrollo de metaversos,  servicios de movilidad, aplicación de técnicas de video y 3D nunca antes vistas, herramientas procedurales a utilizar en el mundo de la creación de juegos, entornos de simulación virtuales,  distribución y almacenaje de la energía, termodinámica creativa aplicada a la disipación de calor, la nube y su uso intensivo en la recopilación de datos, sistemas de proceso altamente customizables y escalables que pueden adaptar esfuerzos a tareas determinadas en tiempo real, robótica, efectos y nuevos paradigmas en la economía mundial, sistemas de innovación agiles basados en métodos iterativos, y eso, solo, si nos quedamos en la  primera capa de análisis.

El interior de Casita. Boxabl

Vemos como ideas que solo hemos visto o leído en obras distópicas, empiezan a emerger con solo los irrenunciables propósitos de una mente de ingeniero, emprendedor y visionario, Elon Musk.

En un mundo dónde el “vaporware” es utilizado como herramienta de marketing y se desvanece en promesas incumplidas o ni tan siquiera planteadas como un fin alcanzable, llega un señor y en 10 años humilla a toda la industria espacial (con décadas de solera), donde remueve el tablero del “Cómo exprimir un motor de explosión hasta el infinito y más allá” y de un plumazo genera la confianza bursátil para capitalizar, con números, que ni sumando todas las grandes compañías de automoción más longevas y acreditadas alcanzan a igualar, y eso sin mentar sus otras aventuras solares, cyberneuronales, y otras que quedan fuera de las portadas, ….de momento.

El “establishment “se pone nervioso cuando alguien empieza a jugar “fuera de la caja” y alcanza tanto poder, la burocracia más apoltronada ve amenazado su “modus vivendi” desde que el mundo es mundo, y eso es el mayor de los riesgos, porque la innovación introducida en el mercado por el empuje de un solo hombre que sabe cómo orientar el talento de muchas personas y equipos de trabajo, y que se mueve “on the edge” en todos los parámetros de su vida, es de un orden de magnitud nunca antes visto.

Además de todo lo inherente a la persona en cuanto a inteligencia y talentos, también hay que reconocer que en la suma también participa esa mente de riesgo empresarial y astucia para los negocios, y, un magnetismo que sin desbordar empatía (seguro que en el camino de esfuerzo ha dejado muchos cadáveres de talentos que no han seguido el ritmo) consigue aglutinar voluntades y encaminarlas a propósitos únicos.

Por lo que mí me atañe, y en lo que llevo mucho tiempo, el mundo de la SmartHome y el IoT, estoy convencido de que, el “santo grial”, “la piedra cuadrangular”…. la “killer app” de lo nuestro, acabara por converger con este señor, no en vano ese minimalismo a la hora de plantar una pequeña casa prefabricada, para vivir, cerca de su trabajo…y que por ende va a desatar muchas ideas de cómo debería ser la vida para esos futuros humanos fuera de nuestro planeta, no sé por qué va a ser más decisiva que el “palabro” de moda ….“MATTER”.

Estaremos atentos  a cómo evoluciona todo, porque 1 Exaflop de red neuronal (con promesa de un “follow up” de un X10), cientos de personas haciendo “labeling”, simulador con capacidad procedural, o no, de hacer miles de pruebas alocadas e improbables y nutriendo a un deep learning alimentado de, en breve, millones de vehículos, un hardware por encima de todo lo conocido,….y el ojo puesto en un humanoide para hacer tareas peligrosas, aburridas o repetitivas….ufff, apasionante!!!, por favor pónganle una tercera dosis, ya, a ese señor,¡¡por tutatis!!!….que no se nos vaya nunca.

La vuelta al cole ya está aquí, vamos a seguir, en Domodesk,  con lo que íbamos, a seguir con las múltiples iteraciones 😉

 

https://es.linkedin.com/in/manuelgalvez