Des decisions plutot que des milliards de jetons : Jev et le modele lunaire de la NASA posent la meme question

Au cours de la troisieme semaine de septembre, deux evenements sont survenus dans des mondes tres differents. L'un vient d'un laboratoire d'IA de San Francisco, l'autre d'equipes travaillant sur des donnees d'observation lunaire. Les deux posaient la meme question : un modele doit-il produire plus de phrases, ou moins de phrases et de meilleures decisions ? Les deux ont repondu dans le second sens.

Le produit cote logiciel s'appelle Jev. L'entreprise le presente comme un modele de decision plutot que comme un modele de discussion : vous fournissez la question de l'application, et il renvoie des valeurs typees accompagnees de probabilites. Au lieu de produire de la prose, le modele est cense emettre une forme que le code appelant sait deja consommer. Le site de l'entreprise le formule clairement : les sorties possibles sont definies a l'avance, le modele ne peut donc pas produire d'erreur de type.

La consequence technique compte. Un modele de langue classique genere un jeton a la fois, chacun conditionne par le precedent, ce qui cote materiel implique de lire et reecrire l'etat du modele a chaque etape. Jev produit au contraire ses sorties en parallele dans une seule requete. Une grande part de l'ecart de vitesse et de cout vient de ce changement d'architecture, non d'une nouvelle facon de multiplier les matrices, mais d'un changement de ce que l'on demande au materiel.

La seconde distinction est la calibration. Si un modele repond qu'il est sur a 60 %, ce chiffre devrait signifier que la prediction est juste environ 60 % du temps. Un panel de praticiens a insiste sur le fait que c'est une condition de l'automatisation et non un detail : un modele qui reussit une tache dans 95 % des cas sans savoir dire quand il tombe dans les 5 % restants ne peut pas voir cette tache automatisee. Un score de confiance calibre fait aussi remonter une question deuite : qui fixe le seuil.

Cette distinction a un equivalent technique. La probabilite est une definition distributionnelle et mathematique ; la confiance se rapproche d'une decision par seuil. Lorsqu'une interface affiche un seul nombre, elle montre en realite une distribution avec une coupure appliquee, et c'est l'application, pas le modele, qui decide de cette coupure. La revendication de Jev porte sur la coherence de l'ordre relatif de ses sorties, promesse plus faible qu'une distribution de probabilite entierement specifiee.

Les differents intervenants ont souligne des limites differentes. Un axe de raisonnement a soutenu que ces modeles conviennent a un sous-ensemble precis du travail des LLM, a savoir la classification, le routage et la notation, plutot qu'a tout ce que fait un modele generaliste. Un autre a argue que les modeles de programmation peuvent relacher la logique sequentielle et n'appeler ce type de modele qu'aux points de decision, le reste du programme restant deterministe. Ces arguments deplacent le modele hors de la boite de dialogue et vers un role de composant.

La tarification raconte la meme histoire commerciale. Jev est positionne a 0,042 dollar par million de jetons d'entree, la sortie etant facturee a un niveau trop faible pour etre mesure. L'ampleur de l'ecart dans le tableau comparatif compte parce qu'elle traduit un motif d'usage : un modele appele des centaines de fois dans un logiciel. Un modele concu pour afficher du texte a une personne est a la fois plus lent et plus cher dans cet usage.

Une mesure independante reste necessaire ici. Les evaluations de flux de travail de l'entreprise annoncent des gains tres importants, tandis que des verifications tierces soulignaient des avantages de vitesse et de cout plus modestes mais reels face a des modeles de base peu couteux. L'ecart entre ces deux types de chiffres depend de la base de comparaison retenue par le fournisseur. Avant de s'engager, il faut remesurer sur sa propre charge a partir des tarifs actuels.

La seconde grande annonce vient d'IBM et de la NASA. Le 10 septembre, les deux organisations ont publie un modele de fondation open source pour la science lunaire. Son jeu de donnees aligne plus de trente couches d'observations issues de neuf instruments et de quatre missions dans un cadre spatial commun. Aucun jeu de donnees public unique n'avait jusqu'alors reuni de telles donnees multimodales et multiresolution sous une forme exploitable par l'apprentissage automatique.

Le modele a produit deux resultats concrets. Pour identifier les zones a fort potentiel de glace, son taux d'erreur a baisse jusqu'a 22 % par rapport au modele de reference. A une echelle de contexte d'une centaine de metres, il a depasse la reference de pres de 19 % en n'utilisant que la moitie des donnees d'entrainement. L'evaluation de la NASA est plus nuancee : les resultats sont comparables sur la cartographie des craters et certaines formations volcaniques, avec un avantage net sur l'estimation de la stabilite de la glace polaire. Elle souligne aussi que des conditions d'eclairage variables entre orbites affectent la visibilite des petits craters.

L'interet principal du modele reside dans la reutilisation plutot que dans une reponse unique. Plutot que d'entrainer un modele separe par question, les equipes ont adapte une base commune, la plupart des poids restant figes et de petits adaptateurs etant utilises pour l'affinage. Cela reduit le cout d'entrainement et offre a la communaute un point de depart utilisable. C'est un exemple concret d'une idee recurrente : en science, le goulot d'etranglement est souvent l'ingenierie des donnees plutot que les algorithmes.

Les donnees lunaires sont un cas exigeant parce que tout arrive a des echelles differentes. Une tache travaille a une centaine de metres, une autre a la resolution du metre, et certaines couches viennent de la surface tandis que d'autres viennent du sous-sol. Aligner ces couches dans un cadre unique est aussi exigeant que d'entrainer le modele. Le panel l'a souligne : faire correspondre resolutions et conditions d'observation peut compter autant que d'ajouter des parametres. Le travail reel sous un modele de fondation est procedurel avant d'etre conceptuel.

Mises cote a cote, les deux annonces montrent la meme direction. L'une transforme la decision elle-meme en quelque chose de structure et calibre ; l'autre reduit des donnees heterogenes a un langage unique pour l'apprentissage automatique. Dans les deux cas, la cible n'est pas la richesse du texte genere mais l'auditabilite de la sortie. Cela definit aussi une nouvelle unite pour l'economie des modeles : non pas les phrases produites, mais les decisions verifiables produites.

Ces deux approches peuvent etre combinees. Bâtir un squelette de programme deterministe pour un flux de travail long et sequentiel, et n'appeler un modele de decision calibre qu'aux points de branchement, permet de reduire le cout tout en retrecissant la surface ou les erreurs peuvent se cacher. L'idee est une notion familiere du logiciel adaptee a l'IA : ecrire la regle dans le code, laisser l'ambiguite au machine, mais choisir et enregistrer le seuil soi-meme.

Prises ensemble, les deux histoires de ce mois pointent vers le meme deplacement du developpement des modeles. L'une est visible sur une page produit, l'autre au sein d'un jeu de donnees scientifique. La question ouverte est de savoir si des modeles de decision structures, aussi ouverts et verifiables que les donnees qui les alimentent, reduiront le cout d'infrastructure ou releveront aussi la fiabilite de l'ensemble du systeme.