Le prélude de la singularité : récits apocalyptiques, 10 000 agents et retour à la réalité des entreprises

Le panel Critical Path de David Shapiro ouvre la semaine avec un cadre audacieux : OpenAI a lancé une offensive mathématique à plusieurs millions de dollars tandis que les démissions et les tournées d'avertissement dominent les titres côté Anthropic. La question du panel est cinglante : assiste-t-on aux premières scènes de la singularité, ou simplement à une nouvelle tempête médiatique pleine de bruit ? Pendant près de deux heures, la conversation met de côté le récit apocalyptique pour se concentrer sur les faits, les chiffres et la réalité des entreprises.

Le dossier le plus concret de la soirée vient d'OpenAI : selon les panélistes, la recherche a commencé début septembre, environ dix mille agents ont travaillé en parallèle, cent trente milliards de tokens ont été consommés en quatre-vingt-huit heures, et la facture s'est élevée à près de six millions et demi de dollars. L'objectif était une preuve produite par la machine pour l'un des sept Problèmes de Clay qui résiste à toute solution depuis quatre-vingts ans. Si la revendication se vérifie, cela marquera une nouvelle ère où des essaims d'agents sont déployés comme des armées contre les problèmes abstraits les plus difficiles de l'humanité.

Le panel y voit un moment de bascule : la caricature de l'IA comme machine d'indexation rapide qui se contente de deviner le mot suivant s'est effondrée. On rappelle le choc du plateau de Go il y a sept ou huit ans ; les solutions créatives trouvées par les machines dans un jeu dont les permutations dépassent le nombre d'atomes de l'univers migrent désormais vers les mathématiques. Le message est que ces systèmes ne répètent plus ce que nous savons, mais produisent des solutions inédites que nous ne pouvions pas trouver.

Les mises en cause des mathématiques comme simple déterminisme reçoivent une réplique cinglante : les mathématiques sous-tendent tout ce qui nous importe, et le code est l'interface qui automatise le monde à travers elles. L'analogie avec les jeux de stratégie le dit bien : sans dénouer le nœud mathématique, ni les traitements contre le cancer ni les simulations de fusion ne se débloquent. Le codage est décrit comme essentiellement résolu ; les mathématiques devraient suivre d'ici un an ou deux, avec un effet d'entraînement derrière.

Cela dit, le panel freine l'euphorie : l'intelligence est un génie dans une bouteille, et la vraie histoire, c'est la chaîne de goulots d'étranglement qui la transporte dans le monde physique. La formule meilleur-plus rapide-moins cher-plus sûr se heurte aux limites du temps, de la distance, de l'énergie et de la matière, et aucune intelligence n'abroge la vitesse de la lumière ni les lois de la physique. Les physiciens cités dans l'émission soutiennent que les découvertes révolutionnaires du début du vingtième siècle ont laissé place à des avancées incrémentales qui laissent notre image de la réalité intacte ; même une intelligence résolue fait face à un long parcours d'obstacles.

Sur Anthropic, le ton se durcit : une chercheuse partie après seulement six semaines et qui a fait le tour de Fox et de CNN avec des avertissements sur l'extinction est présentée comme une chasseuse de célébrité. Les intervenants suggèrent que cette personnalité ressemble à quelqu'un choisi précisément pour une témérité prête à brûler sa carrière. La critique la plus acerbe vise les dirigeants : apparaître dans tous les titres se confond avec avoir raison.

L'accusation la plus profonde est que la rhétorique de la peur sert une stratégie de captation : raconter des histoires effrayantes puis réclamer un bouclier réglementaire s'apparente à une manœuvre pour ralentir les rivaux et protéger le leader. L'histoire, arguent-ils, dit le contraire ; alors qu'un géant dormait en 2015 pour protéger ses revenus de la recherche, une start-up a transformé l'architecture transformer en produit et pris les devants. Les appels actuels à ralentir la frontière se heurtent à une réponse glaciale du marché : Pékin a publié ses plans de leadership en IA il y a des années, et personne ne freine.

Shapiro réplique avec le fossé entre les bits et les atomes : même si une superintelligence aboutie arrivait demain matin, elle n'aurait nulle part où aller. De larges pans des infrastructures critiques sont isolés du monde extérieur, une partie fonctionne encore sur des systèmes analogiques, et les centres de données se trouvent derrière des sécurités à plusieurs niveaux. Chaque installation dispose d'un coupe-circuit d'urgence, note-t-il, et il n'existe pas d'armée de robots à l'intérieur, prête à être saisie ; tant que l'intelligence reste enfermée dans les centres de données, les scénarios d'évasion relèvent du rayon science-fiction.

Les affirmations sur les armes biologiques et les missiles de croisière passent par le même filtre : savoir quelque chose et être capable de le construire sont deux mondes différents. Monter un laboratoire exige un argent vertigineux, des équipements spécialisés et des fournitures chimiques, et de tels achats déclenchent des listes de surveillance. Personne sur le panel ne déclare le risque nul, mais ils insistent sur le fait que la distance entre l'hype maximaliste et la réalité du terrain mérite une discussion honnête.

Sur l'opinion publique, le tableau est sombre : à mesure que l'intelligence croissait, la critique s'est réduite à des slogans, des perroquets stochastiques aux accusations de vol d'art, jusqu'aux fins du monde où tout le monde meurt. Le paysage des sondages cité dans l'émission suggère que la plupart des gens se concentrent sur des inquiétudes concrètes comme la vie privée, les biais et la perte d'emploi, tandis que les scénarios catastrophes préoccupent une minorité. L'anxiété de la rue, en d'autres termes, porte sur le loyer du mois prochain plutôt que sur le jugement dernier.

La politique monte vite au créneau : une file qui va de sénateurs connus à de jeunes représentants a intégré la peur de l'IA dans son discours. Le panel y voit une nouvelle vague de tribalisme amplifiée par une presse avide de clics. Pourtant, parlez à un vrai dirigeant ou à un chercheur avec une décennie d'apprentissage par renforcement, et la certitude des gros titres se dissout en nuances stratifiées.

Les expériences du monde réel percent aussi l'hype : un panéliste a demandé à un modèle de langage d'assembler une liste complète de produits pour un bureau à domicile, et le système n'a pas trouvé les bons articles, laissant l'automatisation à moitié terminée. Les tentatives de commentaires automatiques sur les fils de réseaux professionnels ont achoppé de la même façon. Le concept qui s'en dégage est la frontière dentelée de la compétence humaine plutôt que celle du modèle : le même outil creuse un fossé entre ceux qui savent quoi vérifier et ceux qui ne le savent pas.

Les gros titres annonçant que tout change en vingt-quatre mois deviennent une blague récurrente ; les intervenants soutiennent que l'écrasante majorité des entreprises ne se transformera pas fondamentalement en deux ans. L'inertie du secteur achète du temps, non pas pour ceux qui se précipitent, mais pour ceux qui commencent à expérimenter dès aujourd'hui. La vieille parabole du riz sur l'échiquier revient : la croissance exponentielle est réellement destructrice, mais multiplier la puissance de calcul n'équivaut pas à multiplier la valeur, et un calcul million fois supérieur change peu dans les tâches où l'intelligence n'a jamais été le goulot d'étranglement.

Le retour d'OpenAI est aussi sur la table : une entreprise jugée en retard est revenue dans la course au leadership avec un bond en génération d'images. Ce revirement laisse les utilisateurs face à un dilemme d'enfermement propriétaire ; comme personne ne peut maintenir des abonnements haut de gamme sur toutes les plateformes, un regroupement autour de deux favoris se dessine. L'appétit croissant de tokens à chaque nouveau modèle est lu comme la preuve d'une demande insatiable, confirmée lorsque les abonnements premium ont été suspendus faute de capacité.

Sur le débat de la bulle, le panel prend position fermement : les bulles n'ont pas de files d'attente à la porte, alors que la demande ici ressemble à une ruée des soldes. Un carnet de commandes de six cent soixante-quatre milliards de dollars et une utilisation du matériel supérieure à quatre-vingt-dix-sept pour cent côté Oracle, avec un trimestre record de quatre-vingt-seize milliards côté Nvidia, ancrent l'argument. La couche énergie et infrastructure montre des contraintes physiques à résoudre plutôt qu'une bulle ; le logiciel qui écrit le logiciel marque une transition que nous vivons.

La prévision de la suite se résume en un seul concept : chacun parle à un agent préféré qui orchestre tout en coulisses. Les premières expériences d'agents open source, pénibles à configurer, indiquaient déjà la voie ; l'essaim personnel de type chef de cabinet du panéliste fait tourner du vrai travail avec plus d'une douzaine d'agents persistants. La scène est comparée aux jours de l'ordinateur personnel de la fin des années soixante-dix : les configurations embrouillées d'aujourd'hui répètent les assistants en un clic de demain.

Le segment médical est le passage le plus porteur d'espoir : des entreprises portées par l'IA et à la recherche de briques de base auraient trouvé un candidat-traitement pour une maladie pulmonaire rare, avec des effets secondaires de longévité observés dans certains composés. L'histoire du vaccin contre la pandémie, conçu en semaines et testé sur des mois, montre que le délai réside dans la vérification plutôt que dans la découverte. Selon les mots du panel, nous vivons peut-être les dernières années d'un âge sombre où la mort par maladie et par vieillesse passe pour ordinaire.

La partie business se fait sévère : une agence de marketing produisant du contenu IA bâclé a reçu un ultimatum de son client : prouver sa valeur en trois mois. Un secteur qui ne savait pas ce qu'il faisait l'an dernier est entré dans l'an zéro de l'adoption en entreprise, avec des modes d'échec connus et des cadres qui prennent forme. La prescription offerte aux dirigeants est la croissance plutôt que les coupes : maintenir les effectifs, doubler l'activité, tripler sa valeur, grâce à un programme d'intégration en six étapes où les dirigeants travaillent concrètement avec les modèles de pointe.

Deux fractures se cristallisent à la fin : l'Équipe A, qui embrasse l'IA, contre l'Équipe B, qui continue avec des méthodes d'il y a deux ans, un écart comparé à un comptable de 1976 face à un collègue moderne. La seconde fracture sépare les outils : assistants capables contre modèles de pointe, avec un écart d'intelligence effective revendiqué allant jusqu'à cent fois. Comme le siège de leader change de main environ tous les six mois, le conseil reste constant : tout essayer, trouver ce qui vous convient, et ne pas reporter l'évaluation.