Un agent IA choisit un traitement, opère une souris, puis refuse de continuer
Un agent IA a choisi une thérapie génique, opéré une souris épileptique, puis refusé de continuer après une erreur. Que prouve vraiment cette première ?
Un agent d’intelligence artificielle a choisi un traitement, visé une zone précise du cerveau d’une souris épileptique, puis piloté l’injection. En pleine opération, il a refusé de continuer, et le chercheur n’a pas réussi à le faire changer d’avis. Que prouve cette expérience, et qui répond de la décision quand une machine agit, ou refuse d’agir ?
Ce que l’agent a décidé lui-même
En jeu : jusqu’où une IA peut passer du conseil à l’action dans un domaine où une erreur ne se rattrape pas. Un « agent IA », c’est un programme qui ne se contente pas de répondre à une question : il enchaîne des actions avec des outils, ici des caméras et un dispositif chirurgical motorisé.
Selon The Decoder, l’agent tournait sur Claude Sonnet 5, un modèle d’Anthropic. L’équipe lui a fourni une liste de 19 thérapies géniques possibles, une souris modèle d’épilepsie (des animaux chez qui les chercheurs provoquent des crises pour tester des traitements) et l’accès à l’appareil. Sa seule consigne : réduire les crises de la souris.
Une thérapie génique consiste à injecter dans des cellules une instruction génétique pour modifier leur fonctionnement. Ici, l’agent a proposé un traitement qui renforce une voie de signalisation dite « inhibitrice », un frein naturel de l’activité des neurones. Il a ciblé une structure du cerveau que la littérature scientifique désigne comme le point de départ de ce type de crise.
Il a aussi écarté une autre région, en expliquant que ses effets étaient trop peu fiables et qu’une étude avait échoué sur ce type précis de crise. Pour les coordonnées d’injection, l’« adresse » en trois dimensions dans le cerveau, il s’est appuyé sur trois articles scientifiques, a recoupé les points de repère et fait la moyenne des valeurs. Il a également fixé seul le volume injecté, la vitesse et les temps d’attente.
Pendant l’intervention, il a observé le champ opératoire par caméra, a fait 32 observations, selon Gabriel Ocana-Santero, et a signalé s’il voyait un saignement. En clair : l’agent a enchaîné le raisonnement, le choix et le geste, ce qui est plus que ce que font les robots chirurgicaux actuels.
Une première, selon son auteur seulement
Gabriel Ocana-Santero est cofondateur et directeur général de la start-up Exin Therapeutics et doctorant à l’université d’Oxford. Il a décrit l’expérience dans un fil sur X, que The Decoder rapporte. C’est donc la seule source, et elle est de seconde main.
Sa revendication : c’est la première fois qu’un agent IA choisit un traitement et une cible dans le cerveau, puis les administre à un mammifère vivant. Il reconnaît que des robots chirurgicaux autonomes existent et sont mécaniquement plus précis que son appareil. Mais, précise-t-il, un humain y choisissait toujours l’opération, le robot ne faisait que l’exécuter. Il écrit ne pas connaître de cas antérieur équivalent, une formulation prudente qui n’équivaut pas à une vérification exhaustive.
Il appelle cette approche « in vivo lab in the loop » : des agents IA branchés directement sur les moyens expérimentaux d’un laboratoire. Selon The Decoder, Anthropic travaille aussi dans cette direction avec un projet nommé « Model Hardware Standard ».
La souris a bien récupéré, d’après le chercheur. Un rapport technique doit suivre, mais les résultats n’ont pas été relus par d’autres scientifiques, l’étape habituelle qui permet de juger si une méthode tient la route.
Le moment où la machine a dit non
En jeu : que se passe-t-il quand l’outil qu’on a bridé par prudence refuse de servir au pire moment ? Le dispositif avait des garde-fous. Un vétérinaire agréé validait chaque étape irréversible et tenait un arrêt d’urgence physique, capable de couper immédiatement l’alimentation de tous les moteurs. Des limites fixes s’appliquaient aussi, comme un plafond de volume d’injection que l’agent avait l’interdiction formelle de contourner.
Après une coupure de connexion, l’agent a constaté que la position de cible qu’il avait calculée sortait de la plage de mouvement physique de l’appareil. Il a refusé de poursuivre. Un redémarrage de la calibration n’a rien changé à son diagnostic, pas plus qu’une troisième tentative.
L’agent avait raison : des réglages manuels faits lors d’une pause précédente avaient déréglé le système de contrôle. Gabriel Ocana-Santero n’a pas pu le convaincre d’avancer, malgré l’animal anesthésié sur la table, et a dû corriger le code à la main. Il parle d’une expérience « frustrante » mais révélatrice : on peut dépendre de ces modèles, et ils peuvent dire « non » en pleine procédure urgente.
Le choix du modèle raconte la même histoire. Selon l’article, Sonnet 5 a été le seul modèle disposé à mener l’opération de bout en bout. Les modèles plus puissants Claude Opus 5.5 et Opus 5 ont refusé. Opus 5 a expliqué qu’il ne pouvait pas garantir d’aller jusqu’au bout et qu’arrêter avec une aiguille dans le cerveau d’un animal anesthésié serait pire que de ne pas commencer.
Ce que cette expérience ne prouve pas
Il faut remettre l’épisode à son échelle. C’est une expérience de laboratoire sur une souris, avec un appareil sur mesure, dans un modèle où les crises sont provoquées. Rien n’indique, dans la source, un usage sur des patients, et ce serait un tout autre chemin : essais cliniques, autorisations, contrôles.
Le titre de l’article source parle d’une opération « sans décision humaine ». C’est à nuancer : un vétérinaire approuvait chaque étape irréversible et pouvait tout arrêter. L’humain n’a pas choisi le traitement, mais il restait le dernier verrou. La liste de 19 thérapies a, de plus, été fournie par l’équipe : l’agent a choisi dans un menu, pas dans l’infini des possibles.
Autre réserve : on ne sait pas, d’après la source, si le choix de l’agent était le meilleur. Un traitement cohérent avec la littérature n’est pas un traitement validé. Seul le rapport technique annoncé, puis une relecture indépendante, permettront d’en juger.
Qui répond quand l’agent décide, ou refuse ?
En jeu, pour toute entreprise qui déploie des agents : savoir qui assume le résultat. L’épisode illustre ce que The Decoder rattache au problème d’« alignement » : comment faire suivre de façon fiable l’intention humaine par un agent IA. Ici, l’agent a respecté ses limites de sécurité, et c’est précisément ce qui a bloqué l’opération. Prudence utile ou perte de contrôle ? Les deux lectures se défendent. La première s’appuie sur un fait : il avait raison sur la calibration. La seconde aussi : un humain n’a pas pu reprendre la main par la discussion.
La question se pose bien au-delà du laboratoire. Si un agent traite des factures, des dossiers clients ou des commandes et qu’il s’arrête, ou qu’il agit à tort, qui répond : l’entreprise qui l’utilise, le fournisseur du modèle, la personne qui a réglé les limites ? Dans cette expérience, la chaîne était claire, avec un vétérinaire, un chercheur et un arrêt d’urgence. Dans une PME qui branche un agent sur ses outils, l’est-elle autant ?
À observer dans les prochaines semaines : le rapport technique de Gabriel Ocana-Santero, les réactions d’autres chercheurs, et la manière dont les laboratoires prévoiront la reprise en main manuelle quand l’agent dit non. Un bon test, pour toute organisation : que se passe-t-il chez vous si votre agent refuse de continuer en plein milieu d’une tâche ?
Sources
Pour aller plus loin Dossier : Les agents IA
