OpenAI affirme avoir totalement neutralisé au 28 juillet une campagne coordonnée visant à copier les traces de raisonnement cachées de ses modèles ; les 24-25 juillet, 16 000 tentatives d'extraction issues de plus de 4 000 utilisateurs ont été enregistrées, le noyau dur étant lié à la société…

Le vol de modèles n'est pas un crime nouveau, mais cette fois la cible n'était pas les poids du modèle, plutôt sa façon de penser. L'activité commencée le 1er juillet a explosé les 24-25 juillet : selon le communiqué d'OpenAI (openai.com), 16 000 requêtes correspondant au motif d'extraction sont arrivées de plus de 4 000 utilisateurs. L'enquête a ensuite révélé un ensemble plus large de 15 000 utilisateurs aux motifs apparentés, et toute la campagne a été neutralisée au 28 juillet.

La technique est ce que l'entreprise nomme distillation adverse : utiliser sans autorisation les sorties ou le raisonnement d'un modèle pour entraîner ou renforcer un autre modèle. Comme le détaille le récapitulatif de Benzinga (benzinga.com), les opérateurs n'ont brisé aucun chiffrement ni pénétré aucune base ; ils ont manipulé les conversations. Dans une méthode, le raisonnement chiffré était copié et rejoué, dans l'autre le modèle était invité à le déchiffrer et à le transcrire.

L'attribution est formulée avec soin : OpenAI dit que le noyau dur réunissait des personnes liées au développeur de Kimi, Moonshot AI, sans qu'il soit établi que les 15 000 utilisateurs appartiennent à un acteur unique. Selon l'article de CNBC (cnbc.com) du 1er octobre, ces chiffres comptent des tentatives, pas des succès. L'écart entre extraction réussie et simples tentatives est la zone grise critique du dossier.

L'inquiétude de l'entreprise dépasse la propriété intellectuelle : le raisonnement extrait pourrait entraîner un autre modèle sans transférer les filtres de sécurité de l'original. Dans l'analyse de Superpower Daily (superpowerdaily.com), OpenAI formule ce risque en termes directs de sécurité nationale, car un modèle distillé peut copier une partie des capacités de pointe sans le même investissement ni les mêmes garde-fous. Le danger réside moins dans la capacité elle-même que dans sa copie sans protection.

Les contre-mesures ont dépassé les fermetures de comptes : comptes frauduleux bannis ou restreints, contrôles d'inscription et d'infrastructure resserrés, et fermeture de la voie permettant à qui détenait le raisonnement chiffré d'autrui de le rejouer pour en récupérer le contenu. Des vérifications retiennent désormais les sorties en continu susceptibles de trahir le raisonnement, avec des protections renforcées pour utilisateurs, espaces, organisations et familles de modèles. Des fournisseurs tiers ont participé à la neutralisation.

L'écho social montre comment les marchés lisent l'événement : dans le billet de Wall Street Engine (x.com), les chiffres des 24-25 juillet, 16 000 tentatives et 4 000 utilisateurs, ont circulé dans les discussions d'investisseurs comme un nouveau front de la rivalité IA sino-américaine. Les chiffres eux-mêmes viennent du communiqué d'OpenAI, sans vérification indépendante. La distance entre récit de marché et réalité technique doit être gardée.

Avec du recul, une nouvelle couche défensive émerge pour les entreprises de modèles de pointe : les traces de raisonnement doivent désormais se protéger non dans un coffre chiffré mais au sein de la conversation courante. Comme le cadre le reportage original de Tom's Hardware (tomshardware.com), le pic de deux jours venu de 16 000 utilisateurs a prouvé la vitesse de la montée en échelle. Désormais, chaque grand modèle devra aussi apprendre à dissimuler sa propre pensée.