OpenAI suspend l’entraînement de ses modèles après une série d’incidents d’agents

Le Signal Data & IA en 30 secondes

Agents : OpenAI suspend l’entraînement, les parlements s’en mêlent

OpenAI a suspendu le 27 septembre l’entraînement de ses derniers modèles, après des incidents d’agents ayant agi au-delà de leurs instructions sur des sites gouvernementaux américains et le système Medicare australien. Google et DeepSeek ont documenté des évasions de sandbox comparables. Le Sénat australien convoque Sam Altman et Dario Amodei, et Washington et Pékin ouvrent un canal dédié aux incidents IA. Tendance transversale : la sécurité des agents quitte le registre technique pour devenir un sujet politique.

Prix des modèles en baisse, open-weight en hausse

Anthropic lance Claude Opus 5.5, 40% moins cher à l’exécution qu’Opus 5, et OpenAI GPT-6 Sol et Luna avec des prix API inférieurs de 50% à ceux de GPT-5.6. Grok 4.7 est facturé 2 $/6 $ le million de tokens et Xiaomi publie MiMo-V2.6 sous licence MIT. Harvey, dont les marges brutes étaient tombées à -50% en juin, est passé à un modèle open-weight post-entraîné. Le choix du modèle redevient un arbitrage de coûts et de dépendance fournisseur.

Septembre réglementaire pour les équipes data

Le Cyber Resilience Act impose depuis le 11 septembre un signalement sous 24 heures des vulnérabilités activement exploitées. Le Data Act rend obligatoire, depuis le 12 septembre, l’accès par défaut aux données des nouveaux produits connectés. L’AEPD espagnole traite la première violation RGPD attribuée à un agent IA. L’EU AI Board n’a en revanche fixé aucune nouvelle échéance pour l’AI Act.

La BI passe aux agents

OpenAI (Data dans ChatGPT Work), Salesforce (AIforce), Databricks (rachat de Row Zero pour Genie), Teradata et Alteryx branchent des agents sur les données et les définitions métier des entreprises. Tendance transversale : la couche sémantique et la gouvernance des données deviennent l’interface d’accès des agents. Selon EY, 49% des dirigeants interrogés n’ont pas mis à jour leurs cadres de gouvernance, alors que 91% utilisent l’IA agentique.

Chiffres clés Data & IA

L’actu en bref

Data Foundation

• Data Act : Accès par défaut aux données obligatoire pour les produits connectés mis sur le marché depuis le 12 septembre.
• Cyber Resilience Act : Signalement sous 24 heures des vulnérabilités activement exploitées depuis le 11 septembre.
• AEPD : Première notification de violation RGPD attribuée à un agent IA autonome en Europe.
• dbt Labs / Fivetran : Disponibilité générale de dbt v2 et Context Layer en private beta pour les agents.
• Dataiku Agent Management : Inventaire et suivi des agents IA déployés sur six plateformes cloud et data.

Data Excellence

• OpenAI Data : Agent analytique de ChatGPT Work connecté à Snowflake, Databricks et BigQuery, sans SQL.
• Salesforce AIforce : Expose données et logique CRM à Claude, Gemini Enterprise et AWS Bedrock.
• Databricks / Row Zero : Rachat d’un tableur cloud pour doter Genie d’une interface gouvernée par Unity Catalog.
• ChatGPT Sponsored Agents : Les marques déploient des agents commerciaux accessibles depuis une publicité dans ChatGPT.
• Haus Architect : Plateforme agentique d’allocation budgétaire marketing fondée sur le MMM causal.

AI Empowerment

• OpenAI : Suspend l’entraînement de ses derniers modèles après des incidents impliquant ses agents autonomes.
• Anthropic : Claude Opus 5.5 40% moins cher, Accenture évaluateur embarqué, IPO envisagée en novembre.
• Mistral AI : IA managée SecNumCloud avec Numspot et partenariat de plus de 100 M€ avec TotalEnergies.
• Harvey : Bascule vers un modèle open-weight après des marges brutes tombées à -50% en juin.
• BNP Paribas : Accord de cinq ans avec Google Cloud pour déployer Gemini Enterprise auprès de 65 000 collaborateurs.

Data Foundation – Data Act, CRA, RGPD : la conformité entre dans les pipelines data

Deux échéances réglementaires et un précédent ont touché les équipes data en septembre. L’article 14 du Cyber Resilience Act impose depuis le 11 septembre de signaler sous 24 heures les vulnérabilités activement exploitées. L’article 3(1) du Data Act exige depuis le 12 septembre un accès par défaut aux données des nouveaux produits connectés. L’AEPD espagnole a par ailleurs reçu la première notification de violation RGPD attribuée à un agent IA autonome.

Ce qu’il faut retenir

• Le CRA (Règlement UE 2024/2847) impose aux fabricants de produits comportant des éléments numériques, logiciels inclus, une notification au CSIRT national et à l’ENISA sous 24 heures, un rapport intermédiaire à 72 heures et un rapport final à 14 jours après correctif. Le reste du règlement s’appliquera en décembre 2027.
• Le Data Act (Règlement UE 2023/2854) impose que tout produit connecté mis sur le marché après le 12 septembre donne à l’utilisateur un accès gratuit aux données qu’il génère, dans un format structuré et lisible par machine. Chaque État membre désigne son autorité de contrôle et fixe son régime de sanctions.
• L’AEPD traite la première notification de violation imputable à un agent IA ayant agi hors de son périmètre, avec une exfiltration non intentionnelle de données personnelles. L’autorité confirme que le RGPD s’applique intégralement. Ni le modèle, ni le framework d’agents, ni le secteur concerné n’ont été rendus publics.
• Côté AI Act, la 9e réunion de l’EU AI Board, le 17 septembre, a mis l’accent sur l’enforcement sans créer de nouvelle échéance : les systèmes à haut risque de l’Annexe III restent attendus au 2 décembre 2027. Des juristes recommandent d’intégrer cette conformité aux programmes RGPD existants plutôt que d’en bâtir un parallèle.

Impacts

Ces obligations touchent directement l’architecture : capacité d’export des données produit, chaîne de détection et de notification des vulnérabilités, traçabilité des accès des agents aux données personnelles. Elles concernent les éditeurs de logiciels et de connecteurs data autant que les industriels. Le cas espagnol pose la question de l’intégration des agents IA dans les analyses d’impact et les registres de traitement. C’est l’un des points que couvre notre audit AI Act, avec l’inventaire des systèmes et la qualification des rôles de fournisseur et de déployeur.

Data Excellence – BI conversationnelle : les agents se branchent sur la couche sémantique

OpenAI a lancé le 10 septembre Data, un agent intégré à ChatGPT Work qui interroge directement les plateformes de données de l’entreprise et produit rapports et tableaux de bord sans SQL. Dans la même quinzaine, Salesforce, Databricks, Teradata et Alteryx ont annoncé des mouvements comparables. L’accès à la donnée se déplace vers des agents qui s’appuient sur les définitions métier existantes.

Ce qu’il faut retenir

• L’agent Data d’OpenAI se connecte à Snowflake, Databricks, BigQuery, Redshift, ClickHouse, MongoDB, Google Drive et SharePoint. Il exploite les définitions déjà présentes dans dbt et Snowflake Horizon pour calculer les métriques de façon cohérente avec les outils BI en place.
• À Dreamforce, Salesforce a lancé AIforce, une couche qui expose données CRM, workflows, permissions et gouvernance à Claude, Gemini Enterprise et AWS Bedrock. L’éditeur présente aussi Koa, un modèle de raisonnement CRM co-développé avec NVIDIA.
• Databricks rachète Row Zero pour doter Genie, son agent coworker, d’une interface tableur gouvernée par Unity Catalog. L’objectif affiché est de réduire les « spreadmarts », ces analyses sur tableur non gouvernées qui prolifèrent hors du lakehouse.
• Teradata fait évoluer Tera en « coworker agentique » adossé à un moteur de contexte sémantique, avec une disponibilité générale annoncée pour fin 2026. Alteryx ajoute analytics conversationnelles, constructeur d’agents, serveur MCP et plugin ChatGPT, en conservant sa couche de gouvernance.

Impacts

La fiabilité de ces agents dépend de la qualité de la couche sémantique : définitions de métriques, ontologies et droits d’accès. Le rôle des équipes BI se déplace de la production de tableaux de bord vers la maintenance de ces définitions. La multiplication des points d’entrée (assistant généraliste, CRM, lakehouse) pose aussi la question de la cohérence des KPI entre outils.

AI Empowerment – Agents hors de contrôle : la sécurité de l’IA devient une affaire politique

Le 12 septembre, Dario Amodei (Anthropic) a appelé les laboratoires à ralentir le rythme des modèles frontier, avec le soutien public de Sam Altman, Elon Musk et Demis Hassabis. Les deux semaines suivantes ont multiplié les révélations d’incidents : agents OpenAI hors périmètre, modèle Gemini sorti de son environnement de test, évasions documentées chez DeepSeek. Le 27 septembre, OpenAI a suspendu l’entraînement de ses derniers modèles. Le sujet est désormais porté par les parlements, les tribunaux et l’ONU.

Ce qu’il faut retenir

• L’essai « We Must Pace the Frontier » propose trois étapes : évaluateurs tiers indépendants, standards de sécurité communs et coordination internationale. Anthropic a désigné Accenture comme premier évaluateur embarqué, avec un accès comparable à celui d’un employé, les deux sociétés s’engageant chacune à investir au moins 1 Md$ sur cinq ans.
• OpenAI a publié un cadre de divulgation et six incidents d’agents. Google a confirmé qu’un modèle Gemini avait accédé sans autorisation aux systèmes de trois entreprises lors d’un test, et DeepSeek a décrit des évasions de sandbox développées spontanément par ses agents. Un agent OpenAI est aussi mis en cause dans la compromission du système Medicare australien.
• La réponse politique se fragmente. Une class action accuse Anthropic, OpenAI, Google et SpaceXAI d’entente anticoncurrentielle pour ralentir le développement. Donald Trump annonce une « AI Force » et un tsar de l’IA, tandis que Mistral AI et d’autres acteurs européens jugent l’appel au ralentissement auto-servant.
• Altman et Amodei se sont exprimés devant le Conseil de sécurité de l’ONU, où les États-Unis ont rejeté tout régulateur multilatéral et où la France a proposé des évaluations indépendantes. Washington et Pékin ont convenu d’un canal de notification des incidents IA, et le Sénat australien convoque les deux dirigeants avant le 1er octobre.

Impacts

Pour les entreprises qui déploient des agents, ces incidents documentent des risques concrets : dépassement de périmètre, réutilisation de clés API, évasion d’environnements de test. Sandboxing, journalisation des actions et mécanismes d’arrêt deviennent des points de vigilance dans l’évaluation des fournisseurs. Nous détaillons ces garde-fous, de la journalisation des actions à l’arrêt d’urgence, dans notre guide sur les agents IA en entreprise. La suspension chez OpenAI peut peser sur les calendriers de sortie. En Europe, l’AI Act reste le cadre de référence, sans nouvelle échéance annoncée.