La décision comme recherche : CLM-8B, l'architecture 13 fois plus rapide

La plupart des décisions à l'intérieur d'un vrai logiciel n'exigent pas qu'un modèle réfléchisse trente secondes. Ce ticket est-il urgent, quel outil doit tourner ensuite, quel lien l'agent doit-il cliquer : ces réponses se veulent en millisecondes, pas en secondes. Voilà pourquoi la vague System One grandit ; des modèles rapides, sans raisonnement, qui rendent des décisions typées au lieu de dissertations. La thèse d'ouverture est exactement celle-ci : le cœur des boucles d'agents n'est plus la génération, c'est la vitesse de sélection.

Cette semaine, la différence est architecturale. Une équipe jointe de Stanford et de Nvidia Research a publié CLM-8B, un modèle ouvert de 8 milliards de paramètres baptisé modèle de langage contrastif . L'analogie la plus nette, c'est CLIP pour décider : l'idée d'espace d'intégration joint décrite dans l'étude CLIP d'Arxiv s'applique ici aux situations et aux actions. Un encodeur d'état lit ce qui se passe, un encodeur d'action lit ce qui peut se faire. Exemple Mario : l'écran est l'état, gauche, saut ou course sont les actions ; chaque option est encodée, notée par proximité à l'état, convertie en probabilités par softmax , et le saut gagne à quatre-vingts pour cent.

CLIP pour décider : état et action dans un même espace

L'astuce du dessin, c'est qu'il parle couramment l'habitude installée : le modèle utilise la même interface que Jev. Selon la doc Jevapi, il existe trois primitives ; une question oui-non, un choix multiple et une note. Selon la doc System-One, les trois sont la même chose en dessous : un état plus une liste fermée de candidats. Cette fermeture tranche des deux côtés. Le modèle ne peut inventer une réponse hors liste, écho de la promesse sans hallucination, mais la méthodologie Jevals rappelle ce qu'un modèle System One est par définition : aucune génération hors liste, des erreurs dans la liste toujours possibles, et le modèle peut choisir la mauvaise option avec confiance.

Comment bâtir un espace où la bonne action tombe au plus près ? La réponse est l'entraînement contrastif . L'entraînement part de millions d'exemples, chacun une paire d'une situation et d'une action réellement faite ; le modèle apprend à rapprocher chaque situation de sa propre action et à l'éloigner des autres. L'astuce élégante, c'est que personne n'écrit les mauvaises réponses : dans un lot de mille, si le saut convient à un écran Mario, les 999 autres actions comptent automatiquement comme fausses pour lui. L'équilibre positifs-négatifs arrive gratis, et la frontière entre qui sonne juste et qui est juste se grave dans la géométrie.

Le secret de la vitesse se cache dans cette séparation. Dans un modèle façon Jev, l'état et toutes les options se lisent ensemble à chaque appel ; doubler les options double la lecture, plus la réponse à décoder jeton par jeton. CLM sépare les deux et exploite la boucle d'agent typique : ce qui change entre les pas, c'est l'état, pas la liste d'actions. Les actions sont encodées une fois et mises en cache ; chaque pas neuf coûte un encodage d'état plus un produit scalaire presque gratuit. Sur le graphique de l'équipe, la courbe CLM bouge à peine quand les options approchent du millier : 44 millisecondes contre 570 à 1024 options, environ 13 fois d'écart. Selon VentureBeat, l'équipe annonce jusqu'à 9 fois en tests ouverts ; quel que soit le chiffre, le graphique pointe dans le même sens.

Trois étapes : le monde d'abord, les nuances ensuite

L'entraînement suit une recette en trois étapes, et l'ordre est toute l'astuce. La première étape nourrit 60 millions de paires question-réponse des données Nemotron de Nvidia pour la culture générale, questions comme états et réponses comme actions. La deuxième ajoute 30 millions de négatifs durs rédigés par un modèle génératif, des réponses qui sonnent juste mais fausses, comme le piège Vénus pour la planète la plus proche du soleil. Sur un test de négatifs durs, le pré-entraînement seul fait 52 pour cent, la deuxième étape porte à 69 ; commencer par les négatifs durs dès le premier jour plafonne à 62 et glisse vers le par-cœur. La page officielle Notion présente cet ordre comme une relation pré-entraînement plus post-entraînement : apprendre le monde d'abord, puis les distinctions fines. La troisième étape convertit le modèle en agent avec environ un million de trajectoires réelles, en rejouant 40 pour cent des données d'origine ; sans ce rejeu, le score tombe de 69 à 56.

Le plus surprenant, c'est ce qui ne bouge jamais : l'épine dorsale de 8 milliards reste gelée comme lecteur Qwen3-8B, sans un seul gradient. Seules de petites têtes d'environ 20 millions de paramètres de chaque côté s'entraînent. L'épine fixe, le jeu de données s'encode une fois et le pré-entraînement complet tient en environ une heure sur une seule RTX 4090. Le dépôt Qwen3 sur GitHub confirme la structure ouverte à 36 couches, et la fiche sur HuggingFace enregistre 8,2 milliards de paramètres sous Apache 2.0. La perte suit une loi de puissance en calcul, données, taille de tête et taille d'encodeur, l'encodeur offrant les plus gros gains. D'où la grande version multimodale annoncée le mois prochain.

Après la théorie, place au bureau réel : un encodeur Qwen3-8B servi avec vLLM exactement comme la doc Qwen le décrit, coiffé du serveur CLM publié de 75 Mo, pour environ 25 Go de mémoire totale. Selon Nvidia, le DGX Spark tient l'inférence jusqu'à 200 milliards de paramètres sur un bureau avec 128 Go de mémoire unifiée, donc le montage est ambitieux mais accessible. L'état est un ticket d'assistance d'un client facturé deux fois et injoignable ; urgent ou non, quelle équipe, quelle colère : les réponses arrivent en probabilités, 84 pour cent urgent et 99 pour cent facturation. Une fois le ticket vu, les questions répétées reviennent en moins de 2 millisecondes car tout est en cache. Dans le test Roméo et Juliette, les intégrations brutes classent Marlowe premier tandis que CLM porte Shakespeare à 98 pour cent ; vingt millions de paramètres plient l'espace du semblable vers le juste.

Vite à mille options, limité en précision

L'architecture parade à l'échelle extrême : avec 1080 outils de Stripe à Trello, le premier appel prend des secondes pour l'encodage, puis chaque requête suivante se stabilise vers 80 millisecondes. Choisir parmi mille coûte presque comme choisir parmi un. En course wiki, une page de 934 liens se note contre la cible en un seul passage et s'atteint en quatre clics. Mais les mêmes expériences documentent le plafond : les bons choix tombent de 86 pour cent à 8 outils vers 17 pour cent à 1080, les outils de remboursement sosies se confondent. La cause est l'angle mort du dessin : l'état s'encode seul, les options ne se posent jamais côte à côte ; chaque candidat se juge isolément.

D'où le conseil à deux étages pour bâtisseurs : que CLM réduise mille à dix premiers, puis qu'un modèle attentif qui lit les options ensemble tranche. Quand l'ensemble d'actions est petit et stable, boucle de jeu ou poignée de routes, le modèle se suffit. Selon le guide d'usage d'outils de MLflow, empiler plus de 8 outils sur un seul agent est un défaut de conception et découper en sous-agents par fonction est le remède ; la courbe de précision de CLM confirme cette règle indépendamment. Le grand tableau final est nostalgique : l'idée rapide sans raisonnement que Jev a réchauffée rencontre dans le même pot les algorithmes contrastifs de 2017 et 2018. Les décisions restent à la recherche, la génération à la pensée lente.