La signature cachée : comment les filigranes traquent les textes générés par l'IA

Tout commence avec le calendrier. L'article 50 de l'AI Act européen impose aux fournisseurs, à partir du 2 août 2026, de marquer les sorties textuelles, audio, image et vidéo synthétiques sous une forme lisible par machine. Anthropic a annoncé le 11 août qu'il filigranerait les textes de Claude et a publié un explicatif détaillé trois jours plus tard. Google faisait déjà tourner sa méthode SynthID dans l'application Gemini depuis 2024. Le détail frappant est que les entreprises n'ont pas limité le déploiement à l'Europe : expédier un seul pipeline dans le monde entier est logistiquement plus simple.

L'idée centrale paraît d'abord contre-intuitive. Le filigrane n'est pas un caractère caché attaché au texte ni une encre invisible. La signature est un motif enfoui dans les choix de mots du modèle. Les lecteurs ne remarquent rien d'étrange dans la phrase, pourtant quiconque détient la clé secrète peut examiner le texte après coup et rendre un verdict quasi certain. La vidéo souligne que cela dépasse la simple chasse aux tricheurs ; le véritable objectif est de garder les sorties générées par machine auditable à grande échelle.

Pour saisir la technique, rappelons comment un modèle écrit. Après « le temps aujourd'hui était froid et », le mot suivant n'est presque jamais « sucré » ; c'est « couvert » ou « gris », et les lecteurs se fichent guère duquel arrive. Des choix à faible enjeu comme ceux-ci se répètent des centaines de fois sur un long passage. Le filigrane se cache précisément dans cette abondance : les décisions neutres pour le sens sont orientées par une règle secrète.

L'idée elle-même n'est pas nouvelle. La vidéo fait un clin d'œil à une proposition de liste verte couverte sur la même chaîne il y a des années ; ce travail était astucieux mais limité. Des articles publiés au cours des deux années suivantes ont durci la méthode pièce par pièce jusqu'à faire émerger un système réellement déployable. Ce que nous regardons n'est donc pas un moment d'eureka mais une histoire de maturation.

La section la plus agréable met en scène le mécanisme sur un tableau blanc. Huit cases sont alignées, un condensé des mots précédents passe dans une fonction de hachage, il est combiné avec la clé secrète, et à chaque étape de génération les cases s'affrontent deux à deux pour couronner le mot gagnant. L'affirmation cruciale : régénérer la même phrase mille fois reproduit exactement la distribution des mots sans filigrane. Cette expérience est le cœur mathématique de la promesse d'absence de perte de qualité.

La détection est de la statistique pure. Dans un texte filigrané, la moyenne mesurée se situe légèrement au-dessus de la ligne médiane, tandis qu'une valeur comme le 0,4964 montré dans la vidéo signifie l'absence de filigrane. La confiance croît avec la longueur car chaque mot remet au détecteur un échantillon de plus. Sur une réponse courte, le signal se noie dans le bruit, et c'est la première et la plus honnête limite de la méthode.

La seconde limite est l'entropie, c'est-à-dire le degré de prévisibilité du passage. Sur une question factuelle à réponse unique, ou dans un format rigide comme le JSON, le modèle n'a aucune marge de manœuvre et la signature s'estompe. Dans une dissertation ouverte sur Macbeth, la marge est large et la signature forte. Une démonstration comparative sur un modèle ouvert dans la vidéo met des chiffres précisément sur cet écart.

Le code est un cas à part. Quand un programme de tâches en ligne de commande est demandé, le filigrane vit surtout dans les commentaires ; la méthode fonctionne à grande échelle, mais une petite modification peut effacer la signature. Accumuler de la confiance statistique est bien plus difficile dans une sortie structurée, car le langage du code est déjà confiné à un gabarit étroit.

C'est ici qu'intervient la question du gardien. Puisque seule l'entreprise connaît le secret, seule elle peut dire si un texte est le sien, ce qui ressemble à première vue à du gatekeeping. La réponse de la vidéo est que la sécurité ne peut fonctionner autrement : publier la règle rendrait la suppression triviale. L'UE a vu cette tension aussi et a exigé que le mécanisme de détection reste ouvert, si bien que n'importe qui pourra interroger Google ou Anthropic et recevoir une réponse avec un score de confiance sans jamais voir la clé elle-même.

Au bout du compte, rien ne change à l'écran pour l'utilisateur ordinaire ; les phrases sont les mêmes phrases. Ce qui change, c'est un nouveau calcul probabiliste entre les mains des plateformes, des enseignants et des auditeurs. La vidéo plante exactement sa thèse là : le filigrane n'est pas une force de police qui met fin à la triche, mais un instrument de mesure qui trace la prose fabriquée par la machine.