Jensen Huang chez All-In : le canular des doomers et pourquoi la superintelligence est déjà là

L'équipe d'All-In dit réserver l'interruption de l'émission hebdomadaire à seulement trois noms : le président Trump, Jésus et Jensen. Jensen Huang est entré sous une standing ovation, présenté comme GPU Jesus, les animateurs soulignant que Nvidia est l'action la plus importante du marché après un chiffre d'affaires en hausse de 97 % sur un an. Huang a ouvert sa veste, demandé de l'énergie et déclaré que les sujets sérieux méritent une conversation à tempo élevé.

La conversation a commencé avec l'essai de Dario Amodei, We Must Pace the Frontier. Huang a dit avoir pris au sérieux la section sur la sécurité et que sécurité et leadership ne sont pas un faux choix. Le texte, assez incisif pour que même la question de savoir s'il était passé par Pangram devienne un sujet de discussion, soutenait que le ralliement des laboratoires de pointe à un appel au ralentissement était notable. Pour Huang, la vraie question était le contrôle interne et le rythme volontaire alors que les laboratoires passent de la recherche à l'ingénierie.

Puis est venue la démission de Jacob Coxon d'Anthropic. Son post sur X a dépassé 100 millions de vues, avertissant que la course met des vies en danger et que l'année ou les deux prochaines seront décisives. Coxon, qui travaillait sur le pré-entraînement, a laissé entendre avoir vu quelque chose d incontrôlé à mesure que la culture de recherche se muait en ingénierie. Huang a qualifié le lanceur d'alerte d'affaire sérieuse qui demande du courage, mais a dit que la préoccupation légitime était confondue avec des prédictions scientifiques sur l'avenir qui n'étaient pas fondées sur la science.

Sa critique la plus acerbe a visé les calculs catastrophistes. Des affirmations chiffrées comme une probabilité de 10 % d'extinction de la civilisation sont inexplicables pour une personne ordinaire et ne devraient pas être formulées parce qu'elles sont inventées, a-t-il dit sous les applaudissements. Quand des chercheurs bien formés prédisent la catastrophe, les mots sonnent autoritaires mais la méthode n'est pas scientifique, a-t-il soutenu. La peur est facile à vendre quand les humains n'ont jamais vu la frontière, mais la science exige la mesure.

Huang a dressé un registre de prévisions erronées. Cinq ans avant la disparition des radiologues, il a fallu plus de radiologues que jamais, même pendant que la lecture automatisée des scanners prenait le dessus. Les prédictions que 90 % du code serait généré en six à douze mois, que la moitié des emplois de premier échelon disparaîtrait en six à neuf mois, et que GPT-2 et Llama 3 étaient trop dangereux à publier se sont toutes révélées fausses. Quelqu'un doit tenir le score des prédictions stupides, a-t-il dit.

Il a présenté cela comme une bataille autour du « faites confiance aux experts ». Des chercheurs dotés d'une conscience asymétrique ont formulé des affirmations alarmistes que les faits ont ensuite contredites. L'énigme des incitations compte : pourquoi des bâtisseurs parleraient-ils ainsi ? Huang a suggéré que la concurrence, la visibilité et la phase d'urgence fiévreuse de la construction d'entreprises aux enjeux majeurs pouvaient gonfler la rhétorique, tout en créditant leur talent et leurs recherches extraordinaires.

Il a tracé une ligne claire sur la culture Nvidia : aucun discours politique au sein de l'entreprise, on en parle à la maison. Nvidia est apolitique et bipartisan, stable et cohérent, créant les conditions pour que les gens accomplissent l'œuvre de leur vie. Les entreprises se construisaient autrefois dans le silence, a-t-il dit, et il ne faut pas tweeter en tant qu'organisation après un mauvais week-end. Le public a applaudi cette clarté.

Sur la régulation, il a repris le « bien faire la mesure et la standardisation » de Satya et les évaluateurs tiers façon FINRA de Demis, puis a ajouté « bien faire l'ingénierie ». La régulation doit résoudre de vrais problèmes, et les vrais problèmes jusqu'ici sont venus des laboratoires de pointe parce que seuls eux ont la puissance de calcul. Quatre incidents dans un laboratoire et un incident majeur dans un autre doivent faire l'objet d'une analyse de cause racine comme tout échec d'ingénierie, avec des sandbox, des runtimes et des moniteurs continus, et être institutionnalisés pour ne pas se reproduire.

Le fil chinois de l'auto-amélioration récursive est passé par Zhipu AI, le créateur de GLM, dont le fondateur a levé cinq milliards et en a réservé trois pour une course d'auto-amélioration. Huang a qualifié l'auto-amélioration récursive d'étiquette sexy pour un système d'idées sensé : apprentissage en contexte, compétences, réflexion, apprentissage par renforcement et données synthétiques, plus des astuces économes en poids comme LoRA qui améliorent sans réentraîner le modèle de base jusqu'à ce que l'expérience soit distillée plus tard.

Il a rejeté le récit de la spirale. On peut faire de l'auto-amélioration récursive toute la journée en interne, mais quand on livre un produit, il faut évaluer les régressions. Un meilleur contrôle par les méthodes, les connaissances, la pratique et la technologie permettra aux laboratoires de garder l'amélioration en interne et de livrer de bons produits à l'externe. La vérification et les évals sont le plan de contrôle, pas un bouton pause sur l'intelligence elle-même.

Sur l'ouvert contre le fermé, Huang a utilisé l'eau en bouteille. L'eau est gratuite, on se douche avec de l'eau gratuite, pourtant on utilise la bonne eau au bon endroit, comme l'électricité. Il a dit avoir utilisé quatre modèles fermés de pointe le week-end dernier et qu'ils fonctionnent à merveille. Les poids ouverts comptent pour la souveraineté, la vie privée et les besoins propriétaires. Au cours des six derniers mois, 400 milliards de dollars de capital-risque sont allés à des entreprises natives de l'IA et 80 % d'entre elles utilisent des modèles ouverts, sans lesquels beaucoup de rêves n'auraient pu être bâtis.

Interrogé sur l'importance que les modèles ouverts viennent de Chine, il a été pragmatique. La majorité des contributions open-source actuelles viennent de Chine à grande échelle parce qu'elle produit plus d'ingénieurs via des universités comme Tsinghua en volume. Nous utilisons déjà Linux et Kubernetes touchés par des contributeurs chinois, et quand vous téléchargez, vous forkéz et vous vous l'appropriez. La course porte sur l'exploitation, pas l'invention ; Maxwell, Volta et Ampere étaient des Européens, pourtant l'Amérique a mieux exploité que quiconque la dernière révolution industrielle.

Pourquoi le récit communiste voyage-t-il si bien en ce moment, a demandé un animateur. Huang a dit que le récit en Chine est pratique, sans parler de cataclysme et de fin du monde. La technologie y est présentée comme faisant avancer l'économie et la société. C'est frustrant, a-t-il dit, d'inventer des fins de civilisation manifestement fausses et non fondées sur la science ou la recherche, puis d'effrayer des gens qui ne peuvent rien faire de cette peur. Si c'était vrai, nous devrions faire quelque chose plutôt que d'inquiéter ceux qui ne peuvent rien faire.

Il a offert une lentille d'expérience vécue. Quand il a été diplômé, les ingénieurs tapaient peu parce qu'ils devaient construire des ordinateurs avant que le logiciel puisse se populariser. Maintenant chaque ingénieur a un ordinateur portable et une chaise et tape toute la journée. Il y a eu une grande ingénierie avant la frappe et il y en aura après, la frappe étant ce qu'il définit comme le codage. Chez Nvidia, il dit aux ingénieurs logiciels que vous ne faites que taper, sa touche préférée est retour arrière, et le meilleur logiciel est le plus petit logiciel.

Le moment le plus surréaliste fut l'appel téléphonique en direct du président Trump. En plein propos, le haut-parleur s'est ouvert et Trump a qualifié l'opposition aux data centers de canular, disant que les data centers sont formidables, enrichissent les gens et les États, et sont le pétrole des 20 à 25 prochaines années, plus grands qu'Internet. Il a plaisanté en disant que Jensen sait développer la puce la plus complexe que personne ne peut copier pendant dix ans mais n'arrive pas à comprendre le bouton haut-parleur, a salué la création de richesse dans des communautés moribondes et dit que qui gagne l'IA gagne.

Trump a insisté sur la politique, qualifiant ses opposants de révolutionnaires pour une mauvaise cause et disant que les appels au ralentissement n'arrivent que parce que les États-Unis mènent. Il a cité 20 000 milliards de dollars d'investissements à venir en un an contre moins de mille milliards sous l'administration précédente, s'est plaint que Google cherche une grande construction en Finlande après avoir échoué à obtenir des permis chez lui, et a averti que ralentir joue le jeu de ceux qui ne veulent pas que l'Amérique réussisse, y compris la Chine. Huang a répondu : nous ne laisserons pas cela arriver, monsieur.

Sur l'allocation du capital, Huang a décrit l'IA comme une nouvelle révolution industrielle qui doit être fabriquée. Au-delà des puces et des modèles, la pile comprend la construction, l'électricité et la production d'énergie. Nvidia est descendu en aval pour sécuriser terrain, énergie et enveloppe via Cloverleaf et mobiliser plus de 500 milliards de dollars de capital tiers avec Apollo, BlackRock, Blackstone, Brookfield, Goldman Sachs et KKR, tandis qu'en amont il s'associait depuis longtemps à Corning, Lumen, TSMC et aux fabricants de mémoire pour que les goulots d'étranglement ne bloquent pas le déploiement. Résoudre les contraintes fait grandir l'écosystème.

Interrogé sur la hauteur à laquelle Nvidia montera dans la pile, Huang a répété sa doctrine : monter aussi haut que nécessaire et descendre aussi bas que possible. Sans les frameworks QDNN de Nvidia, les frameworks n'existeraient pas, sans Megatron Core l'entraînement à grande échelle n'aurait pas eu lieu. Il y a dix-huit mois, Nvidia ne faisait tourner qu'OpenAI ; aujourd'hui il fait tourner Muse, Grok, Gemini et Anthropic à grande échelle à mesure que les laboratoires de pointe se multiplient. Cette posture du laisser-fleurir-mille-fleurs est intentionnelle, a-t-il dit, tout en soutenant les Neoclouds et les clouds régionaux qui sécurisent terrain, énergie et enveloppe plus agilement que les hyperscalers qui planifient une fois par an, en déployant des gigawatts en Australie et en Asie du Sud-Est, en gardant un œil sur la lithographie chinoise d'ici 2030, la Terafab de 100 millions de pieds carrés d'Elon et un présent qui détient déjà une intelligence étroite surhumaine dans la conduite et le criblage de protéines, d'où l'avenir s'annonce radieux si nous baissons le ton du drame.