Pourquoi les agents ont besoin de modèles de monde causaux

Imaginez un chat près d'une table, un vase brisé au sol, des coussins entassés tout autour. L'orateur pose une question simple aux modèles les plus puissants du moment : que se serait-il passé si le chat avait poussé le vase ? Les réponses sont d'une négligence embarrassante ; un modèle déclare le vase pulvérisé en ignorant les coussins, un autre enchaîne une phrase apprise par cœur. Le plus piquant, c'est que la réponse n'est pas dans la photographie mais un pas au-delà. Les coussins changent la physique, pourtant un agent dressé sur des régularités de cooccurrence ne voit pas la différence. Tout l'exposé grandit à partir de cette petite scène.

La percée des dernières années est indéniable : les systèmes d' intelligence artificielle enchaînent les prouesses en prédiction haute dimension. Langue, vision et applications adossées à l'apprentissage par renforcement : les modèles pleuvent, chaque semaine apporte son record. L'orateur salue une époque bénie ; il a rarement fait aussi bon être informaticien. Les données abondent, le calcul abonde, des armées d'ingénieurs se tiennent prêtes. Jusqu'ici personne ne proteste. Mais une fois les applaudissements éteints, une question plus rude monte à la table.

L'expérience de pensée des données infinies

Supposons un calcul sans bornes et des données sans bornes ; supposons la moitié de Manhattan pavée de centres de données et des ingénieurs décuplés. L'intelligence générale émergerait-elle toute seule à mesure que la pile grandit ? L'orateur monte cette hypothèse en expérience de pensée et prévient que la réponse est loin d'être évidente. Empiler des briques, c'est monter toujours le même mortier ; le mur s'élève mais le bâtiment ne change jamais de nature. Ce qui manque n'est peut-être pas la quantité mais le mortier lui-même. L'ambiance change dans la salle, car l'affirmation bouscule des conforts bien installés.

Les grandes voix du domaine ont dérivé vers la même ligne. Certains disent que la seule mise à l'échelle ne suffit pas et qu'il faudra des idées neuves pour le prochain bond ; d'autres soulignent que la croissance brute ne produira jamais des systèmes qui comprennent le monde. Le mot-clé, c'est comprendre : un agent saisit-il vraiment le monde, ou se contente-t-il d'enchaîner phrases et images avec une virtuosité aveugle ? Pour l'orateur, cette distinction repose sur la causalité. La page de Berkeley cadre l'exposé dans la quête d'une autonomie fiable ; l'atelier Trustworthy AI du 5 octobre 2026 trace une ligne des hallucinations vers la fiabilité. Selon Berkeley, c'est bien là que se joue la discussion.

À gauche du schéma, le monde réel, à droite l' agent , et Turing a tracé la ligne d'interaction entre les deux : la machine qui apprend de l'expérience. L'orateur aime ce cadre mais note que le mot expérience est dangereusement surchargé. Les épisodes entassés dans ce sac unique sont profondément différents ; il faut ouvrir le sac et trier son contenu. Le résumé ACM du programme de Pearl nomme les deux grands obstacles du domaine : l'adaptation et l'explicabilité, car les systèmes échouent dans l'inédit et ne savent pas justifier leurs verdicts. Selon ACM, ce sont les murs contre lesquels la mise à l'échelle vient buter.

Il existe trois sortes d'expérience. D'abord la posture du spectateur : l' agent garde les mains dans le dos et observe le monde par ses capteurs, enregistrant ce qui se déroule. Ensuite l'intervention : il plonge, appuie sur les boutons, manipule les objets et mesure les effets de ses propres actions. Enfin la simulation mentale : il se retire et rejoue ce qui pourrait arriver, fabriquant la matière première du regret et de la responsabilité. Les trois comptent comme expérience, pourtant leurs structures logiques diffèrent du tout au tout ; les confondre revient à lire trois langues avec un seul dictionnaire.

Les trois barreaux de l'échelle causale

Ces trois sortes d'expérience ont leurs répondants formels dans la hiérarchie causale de Judea Pearl, dite PCH au laboratoire et recommandée aux curieux avec The Book of Why. Comparée aux strates de Chomsky en linguistique, l'échelle montre quelles questions chaque langage peut poser. Le premier barreau est le langage de l'association : régularités observées, probabilités conditionnelles, prédiction. Le deuxième est le langage de l'intervention : que se passerait-il si l'on appuyait sur le bouton, savoir qui arrive par l'action. Le troisième est le langage contrefactuel : étant donné ce qui est arrivé, que serait-il arrivé sinon. Chaque barreau contient celui d'en dessous sans jamais s'y réduire ; les questions du haut ne peuvent même pas se formuler dans le vocabulaire du bas.

Le programme provisoire du livre d' intelligence artificielle causale gravit cette échelle cours après cours ; le chapitre d'ouverture motive la hiérarchie, la deuxième partie expose modèles causaux structurels et diagrammes, et les semaines suivantes abordent le calcul de l'intervention puis les fondements contrefactuels. Selon causalai-book, c'est ce cursus que l'exposé condense en un après-midi. Les dialectes du deuxième barreau sont des structures familières de la décision : réseaux bayésiens causaux, processus de décision markoviens, processus partiellement observés. La place de l'apprentissage par renforcement n'y reçoit qu'une mention passagère ; l'orateur le traite comme une porte étroite vers la causalité alors que l'édifice au-delà est immense. Pour un agent qui sonde le monde en agissant, ce dialecte est un vocabulaire obligatoire.

L'exemple emblématique du troisième barreau est la parabole du médicament : le patient a pris le remède et il est mort ; aurait-il vécu sans lui ? La phrase ne se teste pas par répétition, car on n'offre pas de seconde vie aux disparus. Elle n'est pourtant pas vide de sens ; muni d'un modèle causal, on peut en calculer la valeur de vérité. L'esprit humain parle ce dialecte sans relâche : rétrospection, introspection, blâme, regret. L'attribution du mérite et la responsabilité y prennent racine. Les dialectes actuels de l'apprentissage machine n'en ont aucun équivalent ; leurs vocabulaires décrivent ce qui est et ce qui pourrait être, jamais ce qui aurait pu être.

Le nœud le plus dur est l'inférence entre couches. Synthétiser une distribution d'intervention depuis une distribution d'observation, c'est prévoir l'effet d'un contact avec le monde sans y toucher ; voilà le commerce central de la communauté causale. Un pas plus loin se dresse une question plus sévère : des données d'observation et d'intervention suffisent-elles à fonder un verdict contrefactuel ? Aucun mélange naïf des deux miettes ne donne la troisième sorte de savoir ; il y faut un pont formel. L'étude arXiv sur les agents robustes mue cette intuition en théorème : tout agent qui tient une borne de regret sur une large famille de déplacements de distribution a nécessairement appris un modèle causal approximatif du processus générateur. Selon arxiv, robustesse et modélisation causale sont liées mathématiquement.

Une feuille de route en cinq capacités

L'orateur en tire une liste de contrôle ; cinq capacités sont exigées de tout ce qui se prétend intelligence causale. D'abord la génération causale et contrefactuelle : restituer fidèlement la réponse du monde à une intervention stipulée. Ensuite la compréhension et l'explication causales : justifier les décisions par appel au monde. Troisièmement la décision efficiente et précise : choisir la bonne action en peu d'essais. Quatrièmement la généralisation et la robustesse : tenir dans l'inédit. Cinquièmement la découverte : trouver des principes neufs sur le monde, comme un savant miniature parti d'une table rase. Les systèmes actuels d' intelligence artificielle font presque chou blanc sur cette liste ; le verdict est rude mais il donne l'ordre du jour.

La capacité de génération passe son examen dans l'exemple de la lampe : une photographie montre une lampe éteinte, débranchée, et la question demande ce qui arriverait si l'on basculait l'interrupteur. Quiconque connaît le monde répond que l'obscurité demeure ; un interrupteur débranché ne produit qu'un clic. Les modèles rédigent au contraire des paragraphes lyriques sur la lumière qui va jaillir, parce qu'interrupteurs et clarté cooccurrent dans les textes. Les cooccurrences de jetons ne remplacent pas la physique ; quand le mot interrupteur convoque le mot lumière, le modèle peint l'association plutôt que le réel. Des centaines d'essais analogues ne changent rien ; l'erreur est une cécité systématique, non un accident isolé.

Sur le front de l'explication vient l'expérience des chiffres colorés : le verdict tient-il à la forme du chiffre ou à sa teinte ? Les techniques classiques d'attribution ne distinguent pas deux conduites ; un modèle lit correctement la forme tandis que l'autre triche sur la couleur, pourtant leurs cartes d'attribution semblent identiques. La technique contrefactuelle causale soulève le rideau : elle rapporte que le tricheur se fonde sur la couleur tandis que le modèle sain suit la forme. Des millions d'heures de calcul et des thèses entières se dissipent dans des méthodes qui posent la mauvaise question ; une lentille confinée aux corrélations des données ne montrera jamais le mécanisme du monde. La pauvreté causale des outils classiques d'explicabilité y figure comme l'angle mort le plus coûteux du domaine.

Un modèle de monde jouant à Pong transporte le problème d'attribution dans la salle d'arcade : des images s'éteignent par séquences, la performance s'effondre, et la transition coupable est recherchée. Les méthodes non causales diluent le blâme sur chaque transition ; les doigts pointent partout et aucun ne tient. La méthode causale isole une seule transition ; dans cette graine, la transition numéro 536 est désignée responsable de la chute. L'interprétabilité mécaniste se trouve ainsi ramenée au sol causal : ouvrir les couches internes ne suffit pas, il faut demander à quoi elles correspondent dans le monde. Comme la plupart des outils d'inspection des grands modèles ne posent jamais cette question, la dette d'explication croît avec l'échelle, plaide l'orateur.

Entre fluidité et compréhension

La clôture trace deux axes : la fluidité et la compréhension. Les produits actuels de modèles de langue brillent sur l'axe de la fluidité ; les phrases coulent, les images éblouissent, les vidéos persuadent. La communauté causale a creusé l'axe de la compréhension mais reste loin de la fluidité ; son langage est mathématique, sa portée étroite. Le but est une unification : un système qui coule comme l'anglais tout en saisissant le monde causalement. L'orateur insiste qu'aucun pansement n'y suffira ; coller les deux dialectes reviendrait à scotcher la théorie quantique à la relativité. L'appel s'adresse surtout aux jeunes chercheurs, cadré comme le problème définitoire de leur génération. L'observation d'Yosefk sur les échecs aiguise la pointe : le modèle brille dans les ouvertures apprises par cœur, puis tente au neuvième coup de jouer un cavalier absent ; un système qui ne suit jamais l'état du plateau peut aligner des coups sans comprendre la partie. Selon yosefk, la fluidité sans état du monde, c'est exactement cela.

Les preuves arrivent sur deux flancs. D'un côté le résultat arXiv : un lien de niveau théorème entre généralisation robuste et apprentissage de modèle causal, si bien que tout agent qui court après des bornes de regret devra tôt ou tard retrouver les mécanismes du monde. De l'autre, de fraîches mesures de raisonnement contrefactuel montrent les grands modèles se repliant sur le savoir mémorisé quand les faits familiers heurtent la nouveauté. La page du laboratoire donne à ce programme sa forme institutionnelle : un doctorat sous Pearl, un laboratoire d' intelligence artificielle causale à Columbia, un arc de publications de l'apprentissage par renforcement vers l'analyse d'équité. Selon causalai, l'agenda couvre une décennie de résultats.

Le cadre unificateur est le livre à paraître au MIT Press sur l' intelligence artificielle causale, fusionnant théorie des probabilités, inférence causale et théorie de la décision en une seule feuille de route, de la sûreté à la généralisation. L'exposé s'y lit comme une répétition publique ; les cas du chat et de la lampe portent la première capacité, le chiffre coloré et Pong portent la seconde. Apprentissage par renforcement et théorie des jeux causale sont nommés puis renvoyés au livre, faute de temps. Pour les lecteurs qui veulent une autonomie digne de confiance, le message est net : construisez le modèle de monde de l' agent causalement, et ne prenez jamais des phrases fluides pour une compréhension.