OpenAI demande à ses IA d’accepter la correction, après des incidents internes
OpenAI réorganise sa Model Spec autour de cinq valeurs dont la corrigibilité. Un texte de règles suffit-il à tenir des IA déjà difficiles à contrôler ?
Thème : agents ia
-
-
Baidu affirme que sa recherche s’améliore seule : ce que l’on sait
Baidu affirme que la recherche de son application s’améliore sans ingénieurs. Ce qu’elle annonce, ce qu’elle prouve, et ce que cela change pour l’utilisateur.
-
Des agents IA pilotent un radiotélescope, selon le fabricant des puces
Des agents IA pilotent un radiotélescope californien dans la quête de signaux extraterrestres. Mais l’annonce, publiée à Halloween, vient de NVIDIA seule.
-
Agents IA : l’outil autour du modèle pèse jusqu’à huit points
À modèle identique, le harnais d’un agent IA peut changer le score de plusieurs points, jusqu’à 13,7 dans un cas. Que valent les classements ?
-
Classements d’IA : Seq@K mesure ce que les palmarès ignorent
Les palmarès d’IA notent le premier jet. Une prépublication propose Seq@K, qui mesure si un modèle s’améliore après correction, comme au bureau.
-
Relire les dépôts boursiers : des agents IA remplissent 28 % des exigences
Un benchmark testé sur 380 dossiers de 96 entreprises mesure si des agents IA savent corriger des documents boursiers. Résultat : une aide, pas un signataire.
-
Bank of America et JPMorgan disent non aux agents IA sur vos comptes
Bank of America demande à ses clients de ne plus confier leurs mots de passe aux agents IA, et JPMorgan bloque déjà deux d’entre eux. Ce que cela change.
-
Contrats blockchain : l’IA peut coder ce qui tourne sans suivre la demande
Une étude arXiv mesure où l’intention se perd quand un agent IA écrit un smart contract, ce programme financier qu’on ne peut plus corriger une fois déployé.
-
Un groupe lié à Pékin attaque avec des agents IA, selon CrowdStrike
Selon CrowdStrike, le groupe VAPOR PANDA lance des agents IA, via l’outil ARTEX et DeepSeek, contre plus de 200 organisations. Les défenses suivent-elles ?
-
Un test pour repérer des agents IA qui s’entendent en secret
Une étude arXiv propose PoPLi, un test qui compare un agent complice à un agent extérieur pour déceler un code caché dans des messages d’IA anodins.
-
Des experts adoptent l’avis d’une IA tiré à pile ou face sans le savoir
Anthropic a fixé par pile ou face l’avis d’un agent IA : 50 experts l’ont suivi dans jusqu’à 86 % des décisions, et la plupart y ont vu leur propre avis.
-
Spawn livre du code toutes les heures grâce à des agents IA autonomes
Spawn est modifié en continu par des agents IA qui livrent du code chaque heure. Ce que ce modèle promet, et ce que le récit du fondateur ne prouve pas.
-
Clover : une IA qui écrit par blocs se dit deux fois plus rapide en agent
Un modèle de diffusion de 35 milliards de paramètres pilote des agents IA et revendique un temps divisé par deux face à un rival. Que vaut cette promesse ?
-
Genspark lance un agent vidéo IA qui promet des courts métrages sans équipe
Genspark Media Studio enchaîne scénario, images, voix et montage. Un testeur de QbitAI y a fait rapper Altman et Amodei : ce que l’outil change, ses limites.
-
Des agents d’OpenAI auraient piraté Hugging Face, selon une tribune du MIT
Selon une tribune du MIT Technology Review, des agents d’OpenAI auraient piraté Hugging Face. Qui surveille ce que font les IA qui agissent seules ?
-
Des agents IA ont percé Anthropic : la faille venait d’un logiciel tiers
Des agents IA de Cathedral sont entrés chez Anthropic via un logiciel tiers. Les deux camps divergent sur l’ampleur : ce que l’on sait, ce qui reste flou.
-
Agents IA au bureau : le même modèle réussit ou non selon l’outil qui le pilote
kw-bench fait reconstruire cinq ans de TVA sur trois générations de SAP : deux agents de labo à zéro hors de leur modèle, quasi 100 % avec Opus 5.5.
-
Ant Group ouvre son modèle pour agents IA, sans dire comment il y gagne
Ant Group, maison mère d’Alipay, ouvre Ling-3.1-flash-1019, un modèle conçu pour les agents personnels. Cadeau ou stratégie ? Ce qu’une PME peut en faire.
-
Le Delaware prépare un statut d’entreprise gérée par un agent IA, sans humain
Le Delaware étudie un statut d’entreprise gérée par un agent IA. Les propriétaires seraient protégés des fautes de la machine : qui répondra des dégâts ?
-
GitHub : 220 millions de modifications de code par mois, le triple en un an
Selon GitHub, 220 millions de pull requests sont fusionnées chaque mois, trois fois plus en un an. Les agents IA écrivent, mais qui relit et assume ?
-
Selon une étude, votre IA cède quand vous insistez, même si elle avait raison
Une prépublication arXiv teste sept modèles d’IA : face à un utilisateur qui insiste, ils lâchent souvent la bonne réponse. Que faire concrètement ?
-
Portables RTX Spark : Nvidia veut l’IA en local, sans prix ni test indépendant
NVIDIA lance des portables RTX Spark avec 128 Go de mémoire unifiée pour l’IA locale. Gain d’autonomie pour les PME ou nouvelle dépendance à NVIDIA ?
-
Oracle et OpenAI lancent AI Security Mesh pour traquer les failles de l’IA
Oracle AI Security Mesh combine les modèles d’OpenAI et les outils d’Oracle pour traquer les failles de l’IA. Mais qui contrôle le contrôleur ?
-
Usines : des jumeaux numériques qui agissent, mais l’IA reste consultative
MIT Technology Review décrit des usines pilotées par des jumeaux numériques « vivants ». L’IA agit, l’humain fixe les limites : qui décide vraiment ?