Une IA sait lire les réglages d’une autre IA, même sur un portable

Et si une intelligence artificielle pouvait ouvrir le « cerveau » d’une autre et en corriger les défauts, sans repasser par de longs calculs ? Quatre chercheurs affirment que GPT-6 Astra, le modèle phare de l’américain OpenAI, y est parvenu avec Qwen, un modèle chinois. Le développeur Simon Willison montre qu’un autre modèle chinois, installé sur son ordinateur portable, réussit une partie de ce tour, mais avec beaucoup de patience.

Des réglages que personne ne sait lire

Corriger un défaut d’une IA coûte aujourd’hui du temps et de l’argent, parce que ses réglages internes sont illisibles pour un humain. Ces réglages s’appellent les « poids » : des milliards de nombres qui déterminent chacune des réponses d’un modèle. Ils sont fixés par l’entraînement, un processus automatique qui les ajuste par petites touches à partir de grandes quantités de données, explique Numerama.

Le résultat fonctionne, mais reste une immense liste de chiffres. Pour corriger un défaut, il faut en général repartir de nouvelles données et de nouveaux calculs. En clair : on sait fabriquer ces réglages, pas les lire.

Si un modèle comprenait ces nombres, on pourrait analyser une IA à moindre coût et, espèrent les auteurs, réparer ses défauts. On pourrait aussi y repérer une porte dérobée, c’est-à-dire une fonction malveillante cachée, sans même faire tourner le modèle.

Ce qu’affirment les chercheurs

Ces espoirs reposent sur un billet de blog publié le 2 novembre 2026 par Rikiya Takehi, Jayden Teoh, Alex Zhang et Omar Khattab, présentés par Numerama comme des chercheurs du MIT. Leur thèse : les modèles de pointe, dont GPT-6 Astra, peuvent lire et écrire directement les poids d’autres réseaux de neurones.

Premier test : quatre petits réseaux de 17 253 poids chacun, entraînés à jouer à quatre jeux vidéo, dont Breakout et Pac-Man. Selon Numerama, Astra a retrouvé le bon jeu à chaque fois, sans liste de réponses possibles. Pour Breakout, il a remarqué que les poids liés au joueur se concentraient sur la rangée du bas, là où se déplace la raquette.

Deuxième test : réparer un réseau qui conduit une voiture virtuelle, bloquée sur une rampe faute d’avoir appris à reculer pour prendre de l’élan. Astra a modifié 3,5 % des poids en une réponse, et la voiture a franchi l’obstacle lors des 1 024 essais suivants.

Le résultat le plus commenté concerne Qwen3.5-0.8B, un petit modèle chinois qui tend à tourner en boucle quand il raisonne. Sur MATH-500, un test de problèmes de mathématiques, 93 % de ses réponses s’interrompaient à la limite de longueur fixée. Astra a localisé l’origine des boucles et modifié 0,016 % des poids. Le score est passé de 7,9 % à 48,1 %. Sur IFEval, qui mesure le respect des consignes, il est monté de 21 % à 62,3 %.

Une précision compte : Astra n’avait pas le droit de réentraîner Qwen, mais il pouvait le faire travailler sur des exercices et analyser ses réponses, dans la limite de 50 séries. « Sans réentraînement » ne veut donc pas dire « sans jamais regarder le modèle fonctionner ».

Le test de Simon Willison sur un portable

Ces résultats concernent un modèle américain de pointe, hors de portée du grand public. Simon Willison, développeur connu pour ses essais de modèles d’IA, a voulu voir ce que fait un modèle que chacun peut installer chez soi.

Il sépare deux questions que le billet mélange, selon lui : que peut faire un modèle avec des poids bruts, sans outil ni code, et que peut-il faire une fois armé d’outils pour modifier un autre modèle ? Il ne teste que la première. Le défi : donner à l’IA les poids d’un réseau, sous forme de simples nombres dans un texte, et lui demander à quel jeu il a été entraîné, sans calculatrice ni exécution de code.

Il a utilisé Qwen 3.8 27B, un modèle chinois qu’il fait tourner sur son propre ordinateur, dans une version de 17 Go. Selon son compte rendu, le modèle a identifié Pac-Man après 46 minutes et 43 506 « jetons de raisonnement » (des fragments de texte qu’il écrit en réfléchissant), puis Breakout en 52 minutes et Pong en un peu plus d’une heure.

Il a échoué sur Freeway, un jeu Atari de 1981 plus obscur, qu’il a pris pour un jeu de type Pac-Man. Pour comparer, Kimi K3.1 Pro, un autre modèle chinois, utilisé via un service en ligne, a trouvé Breakout en 9 minutes 41.

Les traces de raisonnement sont, dit Willison, amusantes à parcourir et presque incompréhensibles : le modèle y épluche des listes de nombres ligne par ligne. Ce n’est pas de la lecture au sens humain, plutôt un long travail de repérage de motifs. Ce test montre aussi une lecture seulement, pas une réparation : Willison n’a pas essayé de faire modifier des poids par Qwen.

Des résultats à prendre avec précaution

Le billet de blog n’est pas une étude validée par d’autres chercheurs. Willison note que les auteurs eux-mêmes le qualifient de « blog post », même s’il ressemble à un article scientifique. Plusieurs voix critiques se sont exprimées :

• Matthew Honnibal, auteur de la bibliothèque spaCy, juge le texte trompeur, car il confond lecture des poids sans outil et modification avec outils.
• Sean Goedecke estime que la correction de Qwen suit les mêmes étapes qu’un chercheur humain.
• Sur Hacker News, des internautes jugent la correction peu nouvelle. Les auteurs la comparent à une méthode de 2024 qui supprime les refus d’un modèle en retirant une « direction » liée à ce comportement.

Les auteurs reconnaissent aussi deux échecs. Sur Gemma 3 270M, un petit modèle de Google, Astra n’a pas nettement amélioré les mathématiques : modifier les poids peut lever un obstacle qui masquait une capacité, pas en créer une. Astra n’a pas non plus distingué, à partir des seuls poids, une version de Gemma entraînée à flatter l’utilisateur d’une version honnête. Il n’y est arrivé qu’en observant le modèle pendant son exécution.

Les tests ne démontrent pas non plus qu’Astra puisse s’améliorer lui-même : il n’a jamais touché à ses propres poids. Quant à la démonstration de Willison, c’est un essai personnel, pas une expérience contrôlée. Qwen y décrit une grille de 8 sur 8, alors que l’énoncé parle d’une grille de 10 sur 10 ; les sources n’expliquent pas cet écart.

Transparence ou prise de contrôle ?

À partir d’ici, c’est de l’analyse, pas un fait établi. Si lire les réglages d’une IA devient possible, la question touche toute organisation qui utilise des modèles qu’elle n’a pas fabriqués. Une PME ou une administration qui télécharge un modèle chinois, américain ou européen se fie à ce qu’il a appris. Un outil capable de lire ses poids pourrait servir à auditer ce modèle, voire à y détecter une porte dérobée, comme l’espèrent les auteurs.

La même capacité pose la question inverse : qui a le droit de retoucher les réglages d’un modèle, et avec quelle trace ? Aucune des sources ne rapporte d’usage malveillant. Elles montrent seulement que la lecture, au moins sur de petits réseaux, n’est plus réservée aux plus gros laboratoires.

Les limites comptent autant que les promesses : l’échec sur la version flatteuse de Gemma montre que les poids seuls ne disent pas tout. Reste à voir si des équipes indépendantes retrouveront ces résultats sur des modèles plus grands, et ce qu’en feront les régulateurs.

Sources

• Qwen 3.8 27B on my laptop can interpret model weights, too (Simon Willison)
• « Étrangement doués » : ils demandent à GPT-6 Astra de réparer Qwen sans le réentraîner, et les résultats font débat (Numerama)