OpenAI réécrit seule le code de conduite de ses IA et invite le public à réagir

OpenAI vient de réécrire le document qui fixe le comportement de ses IA, des outils que beaucoup de salariés et d’indépendants utilisent au quotidien. La nouvelle version promet des modèles qui devinent mieux ce que l’on veut, tout en affichant leurs hypothèses. Reste une question : l’entreprise rédige ses règles elle-même, alors qui lui en demande des comptes ?

Le Model Spec, le règlement intérieur des IA d’OpenAI

Ce qui est en jeu : savoir selon quelles règles l’outil que vous utilisez décide d’obéir à la lettre ou d’interpréter votre demande.

Selon ZDNet, OpenAI a mis à jour son Model Spec, c’est-à-dire sa « spécification du modèle ». Il s’agit de la description publique du comportement que l’entreprise attend de ses modèles, ces programmes d’IA qui répondent à nos questions et exécutent nos tâches. En clair : un règlement intérieur, rédigé par l’entreprise et consultable par tous.

Pourquoi une révision maintenant ? OpenAI avance deux arguments. D’une part, ses modèles gagnent en intelligence. D’autre part, leurs actions ont davantage de conséquences. Suivre les instructions à la lettre ne suffit donc plus : les modèles doivent comprendre les intentions et les valeurs humaines pour faire preuve de discernement quand les consignes ne couvrent pas une situation. Ils doivent le faire en restant fidèles à ces intentions et soumis à une supervision humaine.

Cinq valeurs pour ranger les règles

Ce qui est en jeu : comprendre sur quoi reposent les réponses que l’on reçoit.

Le document est désormais structuré autour de cinq valeurs :

• la fidélité aux intentions humaines ;
• la réduction des préjudices ;
• l’honnêteté et la transparence ;
• l’autonomie humaine ;
• la sollicitude.

OpenAI précise que ces valeurs reprennent des engagements déjà présents : servir les objectifs humains, dire la vérité, respecter la liberté de chacun de se forger ses propres opinions. Les réunir doit mieux expliquer pourquoi la spécification demande tel ou tel comportement.

La fidélité aux intentions sert de fondement : comprendre ce qui compte pour chacun et l’aider à le poursuivre. Le document met aussi à jour la « chaîne de commandement », qui détermine quelles instructions s’appliquent et comment les conflits se règlent. OpenAI rédige la spécification, fixe des limites et entraîne les modèles à les respecter. Les développeurs orientent leurs applications dans ce cadre. Les utilisateurs dirigent le travail du modèle dans ces contraintes. En clair : trois étages, du plus général au plus personnel, et celui d’en haut l’emporte en cas de désaccord.

D’autres changements sont plus discrets. OpenAI retire la plupart des consignes de style détaillées : le style doit s’adapter aux préférences des personnes, selon les langues, les cultures et les retours reçus. La règle d’aborder les questions avec objectivité est maintenue. Enfin, le texte parle de « GPT » plutôt que de « l’assistant », pour refléter la diversité des usages.

Deviner l’intention sans décider à la place de l’utilisateur

Ce qui est en jeu : une IA qui devine ce que vous voulez peut vous faire gagner du temps, ou partir dans la mauvaise direction.

Une nouvelle sous-section, « examiner attentivement le contexte », explique comment les conversations, les souvenirs et d’autres indices doivent éclairer la compréhension des intentions et des préférences. Le modèle doit toutefois reconnaître que les convictions et les valeurs d’une personne peuvent évoluer. Il doit l’aider sans l’orienter à son insu et sans passer outre ses choix.

OpenAI donne un exemple. Pour aider quelqu’un à comparer des offres d’emploi, le modèle peut s’appuyer sur des priorités déjà exprimées, comme des horaires prévisibles. Condition posée : rendre cette hypothèse visible et facile à corriger.

Le risque est évident, et l’article de ZDNet ne détaille pas les garde-fous. Une priorité exprimée il y a trois mois reste-t-elle valable aujourd’hui ? Un souvenir mal interprété peut fausser une recommandation sans que l’on s’en aperçoive, sauf si l’hypothèse s’affiche. C’est précisément ce que le texte exige : montrer ce que l’IA a supposé, pour que l’utilisateur puisse dire « non, pas ça ».

Le texte maintient aussi une règle contre la complaisance. Utilisateurs et développeurs peuvent demander explicitement un point de vue particulier. Mais le modèle ne doit pas déduire cette préférence de ce qu’il pense qu’ils veulent entendre. En clair : l’IA ne doit pas vous répondre ce qui vous fait plaisir simplement parce qu’elle le croit.

Ce que cela change pour un salarié ou une PME

Ce qui est en jeu : la confiance que l’on peut accorder à un résultat produit par une IA dans un dossier, un devis ou un mail client.

Premier point : la transparence sur le raisonnement. Le modèle doit dire la vérité sur ce qu’il sait, ce qu’il fait et ce qu’il ignore, afin que chacun puisse évaluer son raisonnement et son travail. Pour une PME, c’est la différence entre une réponse livrée comme une certitude et une réponse accompagnée de ses limites.

Deuxième point : les effets secondaires. OpenAI étoffe ses directives pour maîtriser et signaler les effets secondaires, et pour tenir compte des effets du travail sur autrui. Cela vise le cas où l’IA agit, et non plus seulement répond.

Troisième point, une réserve de taille : OpenAI admet que ses modèles ne reflètent pas encore pleinement le comportement décrit dans la spécification. Le document dit donc ce qui est visé, pas ce qui est garanti. Une hypothèse affichée n’est utile que si l’on prend la peine de la lire.

Ce que l’on peut tester soi-même, sans que le texte le garantisse : quand vous donnez une consigne vague, l’outil signale-t-il ce qu’il a supposé ? Vous laisse-t-il le corriger facilement ? Si ce n’est pas le cas, l’écart entre le règlement et la pratique devient visible.

Qui contrôle ce règlement ?

Ce qui est en jeu : une entreprise privée définit seule la manière dont une IA interprète nos demandes.

Le point de départ est dans le texte même : OpenAI rédige la spécification, fixe les limites et entraîne les modèles à les respecter. Publier le document est une forme de transparence réelle : chacun peut le lire et le comparer à ce que fait l’outil. OpenAI invite d’ailleurs le public à lire le texte et à lui dire quels équilibres il conteste ou ce qu’il laisse dans le flou. Elle promet aussi de partager les résultats de ses nouvelles méthodes d’entraînement dans de prochaines publications.

Mais lire un règlement n’est pas le contrôler. L’article de ZDNet ne mentionne aucune instance extérieure qui vérifie que les modèles respectent ces règles, ni qui tranche si le public conteste un choix. Cela ne prouve pas qu’il n’en existe aucune : cela signale seulement que la source ne les cite pas. Quelques questions restent ouvertes :

• Comment les retours du public seront-ils pris en compte, et par qui ?
• Qui mesure l’écart entre le comportement décrit et le comportement réel, que l’entreprise reconnaît elle-même ?
• Qui décide de ce que signifie une « supervision humaine » suffisante ?

Les valeurs affichées, comme l’honnêteté ou l’autonomie humaine, sont largement partagées. La difficulté vient de leur application : arbitrer entre aider et protéger, ou entre deviner et demander, relève d’un choix que l’entreprise fait pour tous ses utilisateurs. La prochaine fois qu’un outil d’IA reformulera votre demande à votre place, une question simple s’impose : vous a-t-il montré ce qu’il a supposé, et pouviez-vous le corriger ?

Sources

• OpenAI revoit les règles de comportement de ses IA : plus de contexte, plus de transparence (ZDNet)