Chips con cerebro de ardilla: la computadora 4D de Naveen Rao y el muro energético de la IA

Una apertura contra el catastrofismo

El escenario del podcast All-In pareció menos una demo corporativa y más un alegato de tesis. Naveen Rao se posicionó frontalmente contra la narrativa catastrofista y presentó la inteligencia artificial como el próximo peldaño evolutivo de la humanidad. Según él, la escala del software sola no sostendrá ese salto, el sustrato físico debe refundarse. Una curiosidad infantil nacida de una computadora familiar en 1978 lo llevó de la ingeniería eléctrica a preguntas inspiradas por la ciencia ficción sobre cómo hacer inteligente a una máquina, y luego a un doctorado en neurociencia. Ese arco personal da al argumento técnico un prólogo humano: solo afirmas comprender la inteligencia cuando sabes construirla.

La trayectoria emprendedora ha puesto a prueba esa idea en la práctica. En 2014, cuando inteligencia artificial aún no era lenguaje cotidiano, fundó lo que describe como la primera empresa de chips para IA, Nervana Systems, una apuesta de hardware difícil de vender entonces. La adquisición por Intel le parece temprana incluso a él, seguida por la dirección del grupo de IA en Intel. Después, la pregunta se hizo mayor: cómo construir infraestructura para entrenar modelos grandes como los sistemas de lenguaje actuales. La plataformización de GPU y la facilitación del entrenamiento a gran escala se convirtieron en MosaicML, acelerado tras el avance generativo de finales de 2022 y sumado a Databricks en 2023. Su apunte de que cerca de un cuarto de los ingresos de Databricks hoy proviene de ese esfuerzo explica por qué la historia de escala resulta creíble.

Unconventional AI se presenta no como continuación sino como replanteo desde primeros principios. El objetivo es rediseñar la computadora que ha funcionado mayormente igual durante décadas, con el único propósito de eficiencia radical. La meta inicial de mil veces en cinco años se ha adelantado a tres años y medio porque el progreso fue más rápido de lo previsto, paradójicamente acelerado por la propia IA en problemas científicos profundos. La empresa es vertical de punta a punta: teóricos con formación matemática y de neurociencia proponen ideas que reducen el movimiento de información, los equipos de modelado convierten esas ideas en sistemas entrenados con datos reales y evaluados con criterios reales, arquitectos de circuitos y diseñadores de silicio encarnan la física, y un equipo de sistemas cierra el ciclo hasta la placa y el rack.

El muro energético y la prueba biológica

Rao respondió si la energía es realmente un problema con una instantánea de una sola empresa. Google, citado por su transparencia, procesaría unos 3,2 cuatrillones de tokens por mes. Incluso con una hipótesis baja de 10 julios por token, eso da cerca de 12 gigavatios. Estados Unidos dedica unos 40 gigavatios a centros de datos, cerca de la mitad de la capacidad mundial, dejando el total mundial por debajo de 100 gigavatios. En esa aritmética, los propios servicios generativos de un proveedor ya pesan más de un décimo de la potencia mundial de centros de datos. Si el tamaño de los modelos y la demanda crecen juntos, un choque con un techo físico en unos tres años es la proyección ofrecida. Visualizado, una curva de mercado exponencial hacia un billón de dólares en 2030 diverge de una curva energética lineal abajo, la brecha es el problema a resolver.

Esa brecha ya ha remodelado cómo se piensan los centros de datos. La restricción principal solía ser el espacio en planta, luego el equipamiento de red, luego las GPU; hoy es la energía. La primera pregunta es el contrato energético y solo después cómo llenarlo de infraestructura. Cerca de la mitad del costo de servir un token es energía, el resto es capital de hardware, espacio y gastos asociados. La lógica se ha simplificado a asegurar un contrato de potencia y monetizar cada vatio. El caso de negocio de Rao encaja exactamente ahí: monetizar el mismo vatio mil veces mejor que el hardware establecido.

La biología entra como prueba de existencia. El cerebro humano funciona con unos 20 vatios, un cerebro de mono cerca de 1 vatio por extrapolación lineal, un cerebro de ardilla alrededor de 8 milivatios. Tu teléfono consume cerca de 1 vatio, por lo que podrías alimentar en teoría más de cien cerebros de ardilla con él, y ese diminuto cerebro ejecuta un comportamiento extremadamente preciso — saltos de rama en rama con precisión casi perfecta miles de veces. La máxima favorita de Rao reaparece: no comprendes realmente algo hasta que puedes crearlo. Los sistemas inteligentes actuales producen salidas impresionantes pero por una vía ineficiente, y el culpable es sobre todo mover información.

Las cifras hacen tangible la ineficiencia. La corteza humana desplaza unos 16 mil millones de bits por segundo, un procesador gráfico de gama alta cerca de 30 billones de bits por segundo fuera del chip hacia la memoria, y el movimiento dentro del chip es diez a cien veces mayor. Los sistemas sintéticos barajan órdenes de magnitud más bits que el cerebro, y ese movimiento infla la factura energética. Las computadoras existen desde hace siglos en formas mecánicas, analógicas y luego digitales, sin embargo el Eniac de 1945 — construido para calcular trayectorias de artillería más rápido que calculadores humanos — comparte la operación básica de hoy: memoria afuera, cómputo trayendo bits de ida y vuelta. Ese diseño optimizó velocidad antes que eficiencia, y la suposición ahora se revisa.

Ejecutar física directamente

El número de transistores siguió subiendo mientras la frecuencia y las ganancias monohilo se estancaron y las ganancias de eficiencia se agotaron, el almuerzo gratis del encogimiento litográfico se ha acabado en gran parte. Rao argumenta no añadir otra capa de abstracción sino cortar intermediarios. Incluso los unos y ceros digitales son una abstracción sobre la física; un transistor tiene estados intermedios que forzamos a imitar lo binario. Encima apilamos redes neuronales, cada capa imperfecta e incompleta. La propuesta es tomar una abstracción de la física de semiconductores misma y conectarla directamente a la red neuronal, como el cerebro hace emerger inteligencia de la física neuronal sin álgebra lineal ni punto flotante como ciudadanos de primera clase. La misma intuición aparece en la naturaleza, donde bandadas de aves y colonias de hormigas resuelven problemas vía reglas locales simples, estudiadas como sistemas dinámicos donde el comportamiento colectivo emerge de la dinámica de componentes.

Una intuición concreta viene de los metrónomos. Coloca varios sobre una tabla rígida que puede rodar levemente, y sus empujes a la tabla terminan bloqueándolos en la misma fase, incluso partiendo desincronizados. Cientos pueden sincronizarse así, y con distintos acoples se obtienen patrones agrupados donde la mitad comparte una fase y la otra la opuesta. Es un sistema físico cuyo resultado emerge de la interconexión misma. La pregunta pasa a ser si tal sistema físico puede computar, y Unconventional AI intenta responder vía IA generativa. Su modelo de imagen basado en osciladores UNO, publicado como simulación abierta, mostró escala, entrenabilidad y salida útil, con distintas trayectorias de espacio de estados según condiciones como avión, coche o ave, y entregó imágenes generadas reales.

El avance más decisivo añadido recientemente es la escasez de conexiones. Conectar diez elementos totalmente requiere 100 enlaces, mil requieren un millón, y la escala cuadrática se vuelve dolorosa rápido. La escasez pregunta si muchos enlaces pueden eliminarse preservando el comportamiento colectivo, y la respuesta resultó mejor que preservar: el sistema más disperso puede ser más entrenable. Es un raro triple beneficio de mayor eficiencia, mejor escalabilidad y mayor desempeño que también se sostiene en hardware físico real, presentado como recompensa por plantear bien el problema.

El momento más afirmativo fue el anuncio de la primera computadora dinámica física jamás construida. La empresa arrancó en serio en enero, envió el diseño a fabricación a principios de junio y el chip volvió al laboratorio con resultados tempranos — las primeras imágenes presentadas como generadas directamente sobre ese hardware. El alcance no se limita a imágenes; modelado de secuencias y tareas de lenguaje están en la mira. La energía por imagen es el titular: unos 500 nanojulios frente a milijulios en un procesador gráfico, una brecha medida en órdenes de magnitud porque casi no se transporta información. El equipo lo presentó como prueba de que el enfoque funciona y subrayó que lo compartía públicamente por primera vez en ese escenario.

Arquitectónicamente el linaje es claro: de CPU a GPU y luego a subsistemas cada vez más paralelos, todos han permanecido como máquinas von Neumann que separan memoria y cómputo y acarrean bits. El nuevo sistema se describe como computadora dinámica donde cómputo y memoria son lo mismo sin interfaz de memoria; cada elemento de cómputo es también memoria. La empresa llama a eso cómputo 4D, con una dimensión de tiempo en la dinámica y tres dimensiones físicas del apilado de dados en vertical y en plano. El objetivo de producto a corto plazo es un sistema completo tipo rack para centro de datos en unos dos años, que visto desde fuera son tokens que entran y salen por un cable de red mientras el interior es completamente distinto. La migración ocurrirá a nivel de modelo más que de operador, con algo de cómputo necesario para convertir modelos existentes, e incluso operaciones básicas como la multiplicación de matrices se reinterpretan no como circuito fijo sino como comportamiento variable en el tiempo donde cada paso se analiza como estado actual por una transición. Conformar el equipo ha exigido hacer dialogar a teóricos de sistemas dinámicos — un campo centenario — con constructores de chips que históricamente no hablaban el mismo idioma, y crear una biblioteca Python que permite expresar elementos variables en el tiempo y estocásticos en lugar de una interfaz tipo CUDA.

El cierre amplía el foco a las implicaciones. La inteligencia por vatio es la métrica a optimizar hacia un techo termodinámico infranqueable; los cerebros de mamíferos se mantienen a una o dos órdenes mientras la informática actual se encuentra a unos diez mil millones de veces. La empresa apunta a los límites de la litografía bidimensional en tres años y medio y, en la próxima década, a superar a la biología y empujar el cómputo hacia muchos sitios pequeños en lugar de pocos campus de gigavatios, con beneficios reivindicados ambientales, locales y adaptativos, más miles de millones de robots que se ensamblan dinámicamente. Si la disrupción alcanza un cambio de costo de mil veces, la paradoja de Jevons invocada sugiere que el consumo crecerá más de mil veces, pudiendo crear el mayor mercado jamás visto.