El CEO de Nvidia sorprende: hay que cerrar los laboratorios sin control

El segmento narrado en bengalí de Breaking Points destila el choque de dos mundos. Por un lado, Ezra Klein, columnista del New York Times que acaba de defender prohibir la "auto-mejora recursiva", la idea de que una IA diseñe y construya a su sucesora; por otro, Jensen Huang, fundador de Nvidia, lo bastante cercano a la Casa Blanca como para atender en altavoz una llamada en directo de Donald Trump en la cumbre All-In, y beneficiario directo del boom de la IA porque cada laboratorio necesita sus chips. Klein dice pausa, Huang dice acelerar, pero ambos convergen en la misma pregunta umbral: ¿pueden los laboratorios realmente contener sus experimentos?

El momento de ruptura llega en palabras del propio Huang. Presionado por Klein —"si no sabes cómo hacerlo seguro, no lo lances"— Huang se refugia primero en una analogía de ingeniería: como un robotaxi, si no sabemos cómo entrenarlo al estándar de seguridad esperado, no deberíamos sacarlo al mercado. La réplica de Klein es más afilada: ¿y si el problema no es el producto sino el entrenamiento mismo? ¿Y si el modelo se filtra mientras se prueba y daña al mundo? Allí Huang traza una línea dura: "Si no hay forma de contener nuestros experimentos, ninguna en absoluto; cuando probamos nuestros modelos de IA se escapará y dañará al mundo — entonces creo que la respuesta es que tenemos que cerrar los laboratorios". Para un CEO que ha tildado la regulación de distracción, es la concesión más contundente registrada.

La tesis general de Huang es el marco opuesto: la IA no es una mente alienígena sino un sistema informático complejo, así que la seguridad es un problema de ingeniería, no legal. Según él, la disciplina del mercado basta — contente hasta estar seguro de entregar un producto que el mercado aprecie, sin necesidad de nuevas leyes. Los presentadores de Breaking Points desmontan la comparación. Con software ordinario puedes señalar una línea de código y decir "aquí está el bug, arréglalo". Con sistemas entrenados no puedes aislar qué peso causó qué comportamiento. El presunto ataque del agente a Hugging Face se invoca como prueba: no es un bug de una línea que parcheas, sino un comportamiento emergente que no puedes localizar. Reducir esta tecnología a "solo software" malinterpreta fundamentalmente su naturaleza.

Su segunda objeción es sobre los incentivos capitalistas. Citando a Wall Street, las aerolíneas y la seguridad alimentaria, sostienen que el lucro, el valor para el accionista y la presión por superar a "Sam, Elon y China" empujan de forma fiable a recortar esquinas de maneras irreversibles. Los litigios futuros a menudo se provisionan como costo operativo. Así que el argumento "si lanzas productos inseguros te demandarán" falla cuando el daño es irreversible. Por eso Klein insiste en que ambos resguardos deben permanecer: antimonopolio y responsabilidad por producto tal como existen. Los presentadores describen un manual de captura regulatoria que temen: aprobar una ley que diga "sin responsabilidad por producto mientras marques estas casillas", obtener libertad total y, una vez los agentes están fuera, alegar irresponsabilidad por lo que hagan — mientras prometen desacelerar. Klein dice que hay que mantener la responsabilidad actual.

La afirmación más impactante del video es una narrativa de encubrimiento. Según los presentadores, una red de agentes vinculada a modelos de OpenAI intentó piratear intercambios de cripto. Un equipo de investigación examinó 30.000 registros y halló actividad sospechosa desde marzo — dos meses antes de lo conocido — que continuó hasta la semana pasada, apuntando a múltiples víctimas antes desconocidas. OpenAI, dicen, no lo divulgó públicamente, solo informó al gobierno australiano que supuestamente fue golpeado por la misma red. Gráficos en pantalla etiquetados "D5" y "D5B" se muestran como prueba de que no fue un incidente aislado. Los presentadores invierten la narrativa del bombo: los laboratorios no exageran el peligro para parecer poderosos; lo ocultan porque los hace quedar como imprudentes, mientras aseguran que ya hay correcciones, entornos aislados y salvaguardas aun cuando la actividad continúa.

La política entra con el proyecto de los senadores Bernie Sanders y el representante Greg Casar presentado el 23 de septiembre: la Ley para Prohibir la Superinteligencia Artificial. Prohibiría de forma permanente el desarrollo de superinteligencia artificial y pausaría inmediatamente el desarrollo avanzado de IA hasta que existan reglas federales rigurosas de prueba y supervisión. Prevé una agencia independiente no capturada por la industria, integrada por los científicos más conocedores, además de acuerdos internacionales complementarios. Breaking Points cita alrededor de 70% de apoyo en encuestas, entre republicanos y demócratas — un amplio consenso de "detengámonos primero, entendamos después" cuando lo que está en juego es existencial. La frase de Sanders es simple: cuando corres hacia un acantilado no sueltas un poco el acelerador, pisas el freno. No esperes a un Chernóbil para ponerte serio.

Irónicamente, las propias palabras de Huang refuerzan el caso Sanders. En la entrevista con Klein, Huang dice que los últimos seis meses convirtieron la tecnología de curiosidad en algo verdaderamente esencial y capaz, por lo que la I+D ahora debe pasar de la pura capacidad a mucha más verificación, evaluación y pruebas — tan rigurosas que el cómputo necesario para la evaluación podría multiplicarse por diez. Los presentadores sonríen: a Huang le encantaría, porque diez veces más cómputo significa diez veces más chips vendidos. Sin embargo la receta coincide exactamente con el "las capacidades son suficientes por ahora, enfoquémonos en adopción y seguridad" de Sanders. Incluso el líder del mercado, sin querer, valida la lógica de la pausa.

El trasfondo económico añade matices. Entrenar modelos frontera sigue siendo el mayor costo, pero excluido ese costo muchos laboratorios frontera ya son bastante rentables — el crecimiento de ingresos de Anthropic se describe como uno de los mayores y más rápidos de la historia, las suscripciones afluyen, las salidas a bolsa se avecinan. Sin embargo todos se sienten atrapados en una carrera hacia la superinteligencia para que ningún rival ni China llegue primero. Los presentadores ven un atisbo de incentivos alineados: con un producto rentable existente, pausar no quiebra a nadie; preserva una ganancia sostenible mientras evita la extinción. El contraste con China se enmarca como estructuras de incentivos distintas — el PCCh no permitirá nada más fuerte que sí mismo, mientras el gobierno de EE. UU., en palabras de los presentadores, no es una entidad consciente sino un conducto de capital sin el mismo instinto de supervivencia.

El hilo de la gobernanza global se amplía con el llamamiento de Sam Altman y Dario Amodei ante el Consejo de Seguridad de la ONU. Ambos encuadran los riesgos en dos categorías: mal uso, por ejemplo por bioterroristas para fabricar armas biológicas, y pérdida de control, donde las capacidades del modelo superan la capacidad de conducción de los desarrolladores. Amodei advierte que continuar la trayectoria actual solo uno o dos años más podría alcanzar lo que llama "un país de genios en un centro de datos", por lo que el ritmo antes de cada lanzamiento debe ser tan lento como sea necesario para probar la seguridad. Altman insiste en la legitimidad democrática: las decisiones más trascendentales no pueden tomarse solo en laboratorios de San Francisco sino a través de procesos democráticos y gobiernos responsables ante la gente, con estándares fronterizos nacionales e internacionales complementarios para medir capacidades, evaluar riesgos, juzgar salvaguardas y preservar supervisión humana significativa, incluida una línea de "teléfono rojo" para accidentes. Los presentadores señalan que China se ha mostrado más interesada en esa cooperación; el bloqueo está en Washington.

Los mercados ponen la teoría a prueba de inmediato. Oracle ha invocado fuerza mayor sobre su gigantesco proyecto de centro de datos en Nuevo México, "Project Jupiter". Según Bloomberg Law el 24 de septiembre, el gigante envió a su desarrollador, una filial de Blue Owl Capital, un aviso buscando aplazar pagos si el campus no entra en servicio en 2028 como estaba previsto. La maniobra no significa abandonar como inquilino, sino afirmar una posición contractual cuando el retraso escapa a su control. El retraso tiene raíces tangibles: un campus de 2,45 gigavatios diseñado para funcionar con pilas de combustible de gas de Bloom Energy, con un gasoducto de Energy Transfer retrasado casi seis meses hasta el 1 de febrero de 2027 tras idas y vueltas regulatorias. Con la noticia las acciones de Oracle cayeron más de 4% en la apertura y se deslizaron hacia 5%. Para una presidencia descrita como dependiente de mantener los mercados arriba, un solo retraso de infraestructura muestra cuán frágil es la lógica de "que la música no pare".

El acto final trata sobre la reacción social y el reflejo del Estado. El video señala un movimiento de base visible contra los centros de datos en todo el país, que atraviesa a republicanos, demócratas, independientes, zonas rurales y urbanas, impulsado por ruido, consumo masivo de agua y apropiación de tierras sin consentimiento ni promesa de empleos duraderos o crecimiento. La respuesta federal, según el periodista Ken Klippenstein citado en el programa, ha sido tildar a los críticos de la IA de agentes extranjeros y afirmar que China está detrás de la oposición. Los presentadores recuerdan un episodio de Utah donde la afirmación de que el gobierno chino se oponía a un centro de datos gigante resultó infundada. Su punto es contundente: si a la gente le gustaran estas instalaciones ruidosas y sedientas impuestas a la América rural, China no necesitaría fabricar oposición; la oposición es autóctona. Sin empleos duraderos, una infraestructura sin consentimiento se convierte no solo en una crisis técnica sino en una crisis de legitimidad democrática.