OpenAI entraînera ses modèles sur des sessions Daybreak Blue jusqu’ici exclues
Dès le 29 novembre, OpenAI entraînera ses modèles sur les sessions Daybreak Blue, même désactivé. Un réglage de confidentialité vaut-il encore quelque chose ?
Vous aviez coché la case qui interdit à OpenAI d’apprendre de vos échanges ? Pour Daybreak Blue, son outil de cybersécurité, cette case ne suffira plus. Selon The Decoder, OpenAI a annoncé qu’à partir du 29 novembre, les sessions de cet outil serviront à entraîner ses modèles.
Ce qui change le 29 novembre
En jeu : la valeur d’une promesse de confidentialité. Jusqu’ici, les données des sessions Daybreak Blue étaient exclues de l’entraînement, même chez les utilisateurs dont le réglage « améliorer le modèle pour tous » était désactivé. Ce réglage est celui qui dit à OpenAI de ne pas apprendre de vos conversations.
Au 29 novembre, ce garde-fou disparaît pour cet outil. L’information a été confirmée par un e-mail envoyé aux membres du programme Trusted Access, d’après The Decoder. Les sessions de Daybreak Blue pourront donc nourrir l’entraînement, qu’on ait accepté ou non d’y participer.
La source ne dit pas combien d’utilisateurs sont concernés, ni quels modèles seront entraînés. Elle ne détaille pas non plus le fonctionnement du programme Trusted Access. Ces points restent des questions ouvertes.
En clair : le réglage que vous aviez choisi ne couvre plus ce que vous pensiez. Le fournisseur a décidé seul de revoir la règle.
Pourquoi une session de cybersécurité n’est pas anodine
En jeu : ce que vous confiez à un outil quand il s’agit de sécurité informatique. La source ne décrit pas en détail ce que contient une session Daybreak Blue, et nous ne prétendons pas le savoir. On peut en revanche raisonner sur la nature de l’exercice.
Pour qu’un outil de cybersécurité soit utile, l’utilisateur doit lui parler de sa situation réelle. Cela peut passer par des éléments de son système informatique, des faiblesses qu’il soupçonne ou des incidents récents. C’est une hypothèse de bon sens, pas un fait rapporté par la source. Une entreprise qui décrit ses failles à un outil prend un risque particulier : ces informations sont sensibles par définition.
Le fait que ces sessions aient été exclues de l’entraînement jusqu’ici était donc un argument de confiance. Le retirer, c’est modifier ce que l’utilisateur accepte de confier, une fois que les données sont déjà dans l’outil.
OpenAI précise que les interactions signalées lors de revues de sécurité peuvent toujours être utilisées à des fins de sécurité. Cette exception existait déjà, d’après la source, et ne dépend pas du nouveau changement.
Les critiques, puis un recul partiel
En jeu : savoir si un réglage de confidentialité peut être modifié après coup sous la pression. La réaction a été rapide. Selon The Decoder, OpenAI a envoyé un second e-mail promettant une option de retrait distincte, c’est-à-dire un interrupteur propre à cet usage.
Le mot qui compte est « promettant ». La source ne dit ni quand cette option sera disponible, ni où elle se trouvera, ni si elle sera activée ou désactivée par défaut. Elle ne dit pas non plus si les données déjà envoyées seront couvertes. On ne peut donc pas conclure que la situation est réglée.
La séquence reste instructive. Une première annonce lie l’entraînement au 29 novembre, malgré le réglage existant. Une seconde annonce, après critiques, promet un correctif. Entre les deux, l’utilisateur a appris que sa configuration pouvait être redéfinie sans lui. À lui de se demander ce qui garantit que cela ne se reproduira pas.
Le précédent qui inquiète les chercheurs
En jeu : la confiance dans l’idée que ce qu’on confie à une IA ne ressortira pas ailleurs. The Decoder relie ce changement à une affaire qui inquiète les chercheurs : le cas Buckmaster-Alpöge.
Les mathématiciens Tristan Buckmaster et Levent Alpöge ont déposé dans Codex, l’outil de programmation d’OpenAI, des brouillons sur les équations de Navier-Stokes. Ces équations décrivent le mouvement des fluides, comme l’eau ou l’air. Peu après, OpenAI a présenté sa propre démonstration. L’entreprise a nié avoir utilisé leurs contributions pour l’entraînement, selon The Decoder.
Il s’agit d’une suspicion, pas d’une accusation prouvée. Rien dans la source n’établit qu’OpenAI ait réutilisé ces travaux, et l’entreprise le conteste. Mais, écrit The Decoder, la seule suspicion a suffi à montrer aux chercheurs ce qui pouvait mal tourner.
Le parallèle a ses limites : Codex n’est pas Daybreak Blue, et les travaux de mathématiques ne sont pas des données de sécurité. Ce qui se répète, c’est le doute. Quand un fournisseur peut entraîner ses modèles sur ce qu’on lui confie, l’utilisateur n’a pas de moyen simple de vérifier ce qui est réutilisé ou non.
Ce qu’un indépendant ou une PME peut vérifier
En jeu : votre propre exposition. Rien dans la source ne vous concerne directement si vous n’utilisez pas Daybreak Blue. Le principe vaut pourtant pour tout outil d’IA auquel on confie des données.
- Lire les e-mails du fournisseur. Ici, le changement a été annoncé par e-mail. Un courrier de ce type peut contenir une modification de vos droits.
- Revérifier les paramètres de confidentialité après chaque annonce de changement. Un réglage coché hier peut ne plus couvrir le même périmètre aujourd’hui.
- Relire les conditions d’utilisation de l’outil, en repérant les passages sur l’entraînement des modèles et sur les exceptions, par exemple pour la sécurité.
- Trier les données avant de les envoyer : mots de passe, plans du réseau, détails de failles non corrigées, informations clients. Posez-vous la question : si ces éléments ressortaient un jour, que se passerait-il ?
- Demander par écrit au fournisseur ce qui est couvert par l’engagement de non-entraînement, et pour combien de temps.
Aucun de ces gestes ne rend un outil sûr. Ils rappellent une chose : une garantie qui dépend d’un réglage modifiable par l’autre partie reste conditionnelle.
La vraie question est de savoir ce que vaut le refus d’une case quand il peut être rendu caduc par un e-mail. La réponse d’OpenAI, une option de retrait distincte, sera à juger quand elle existera, sur ses détails et sur sa durée.
Sources
Pour aller plus loin Dossier : IA et sécurité
