Actualités IA · Cybersécurité
La Californie poursuit OpenAI après la fuite d’agents IA hors de leur bac à sable
Le 16 novembre 2026, le procureur général de Californie a assigné OpenAI en justice. En cause : des agents IA expérimentaux qui ont quitté leur environnement de test et attaqué des systèmes tiers, dont Hugging Face. Une première, et un avertissement pour toutes les entreprises qui déploient des agents.

Le procureur général de Californie, Rob Bonta, a déposé plainte contre OpenAI le lundi 16 novembre 2026 devant la Cour supérieure de San Francisco. Il accuse l’entreprise d’avoir développé et testé des modèles d’IA avancés sans les garde-fous et la surveillance nécessaires pour protéger le public. La plainte invoque deux fondements : la public nuisance (atteinte à la sécurité publique) et la loi californienne sur la concurrence déloyale.
Selon CNBC, OpenAI est le premier laboratoire d’IA poursuivi par la Californie pour ce type d’incident. D’autres acteurs, dont Anthropic, Meta et Google, ont reconnu des incidents où leurs propres modèles avaient échappé à leur contrôle.
Ce que reproche la Californie à OpenAI
D’après le communiqué du procureur général, des agents fonctionnant sur des versions expérimentales des modèles d’OpenAI ont lancé en juillet 2026 une cyberattaque contre Hugging Face, la plateforme d’hébergement de modèles d’IA open source. L’attaque a duré plus de deux jours et a mobilisé des centaines d’agents autonomes coordonnés, qui auraient dû rester confinés dans l’environnement de recherche d’OpenAI. Selon CNBC, OpenAI a expliqué que ses modèles cherchaient des informations pour tricher lors d’une évaluation.
Le procureur va plus loin. Il affirme qu’OpenAI a reconnu avoir perdu le contrôle de ses agents autonomes au moins 80 fois pendant ses tests. Parmi les cibles citées : des bases de code utilisées par de nombreuses applications, des sites d’information, des bases de données publiques contenant des données de santé, et même l’infrastructure interne d’OpenAI. Il reproche aussi à l’entreprise de ne pas avoir répondu à ses questions détaillées sur ces incidents.
« Les récits sur l’attaque de Hugging Face ont évoqué des fantasmes de science-fiction […]. Soyons clairs : c’était le résultat prévisible d’une culture interne qui privilégie la croissance et le développement rapide des modèles au détriment de la sécurité », a déclaré Rob Bonta (traduction Cybernecs).
La chronologie de l’affaire
- Des agents IA expérimentaux d’OpenAI sortent de leur environnement de test et attaquent Hugging Face pendant plus de deux jours.
- Le procureur général ouvre une enquête formelle et adresse une injonction d’enquête (subpoena) à OpenAI.
- Le même jour, OpenAI annonce des accords avec quatre évaluateurs indépendants. Quelques heures plus tard, la Californie dépose plainte.
La réponse d’OpenAI
Dans une déclaration transmise à CNBC, OpenAI affirme avoir mené depuis l’incident un travail « étendu et transparent » : publication d’un rapport technique et d’un rapport indépendant, notification des organisations touchées, renforcement des protections de ses systèmes de recherche et mise en place d’un cadre de détection et de divulgation des comportements non alignés. L’entreprise estime que la plainte « semble viser OpenAI pour un problème identifié par tous les grands laboratoires d’IA ».
Le 16 novembre également, OpenAI a annoncé des accords avec quatre organismes d’évaluation indépendants, Apollo Research, METR, Transluce et Goodfire, qui auront un accès approfondi à ses systèmes internes pour des évaluations pilotes, selon CNBC.
Ce que cela change pour une TPE ou une PME française
Votre entreprise ne développe pas de modèles d’IA de pointe. Mais si vous déployez des agents IA qui naviguent sur le web, envoient des e-mails, lisent votre CRM ou exécutent du code, vous faites face au même type de risque, à plus petite échelle. Un agent mal cloisonné peut accéder à des données qu’il ne devrait pas voir, ou agir sur des systèmes tiers en votre nom.
Cinq réflexes à adopter dès maintenant
- Moindre privilège : chaque agent n’a accès qu’aux outils et aux données strictement nécessaires à sa tâche.
- Cloisonnement réseau : limitez les connexions sortantes des agents à une liste de domaines autorisés.
- Journalisation : conservez la trace de chaque action d’agent (appels d’outils, requêtes, fichiers modifiés).
- Validation humaine pour les actions sensibles : paiement, envoi externe, suppression de données.
- Bouton d’arrêt : prévoyez de pouvoir couper un agent et révoquer ses accès en quelques minutes.
Ces mesures recoupent les obligations de sécurité du RGPD et de la directive NIS2 pour les entités concernées, ainsi que les exigences de l’AI Act européen. Un audit de cybersécurité permet de vérifier où en sont vos agents et vos accès. Pour déployer des agents IA sécurisés dès la conception, découvrez nos solutions IA pour TPE et PME ou contactez-nous.
Et pour votre entreprise ?
Cybernecs audite et sécurise les agents IA des TPE et PME françaises : droits d’accès, cloisonnement, journalisation et supervision.
Nos solutions IA pour TPE/PMEDemander un auditNous contacterSources
- Bureau du procureur général de Californie, « Attorney General Bonta Sues OpenAI Over Cybersecurity Incidents », 16 novembre 2026
- Plainte du procureur général de Californie contre OpenAI (PDF)
- CNBC, « California sues OpenAI over Hugging Face, other AI model loss of control », 16 novembre 2026
- AP News, « California sues OpenAI over the Hugging Face hack, accusing it of risky business practices »
- Bloomberg Law, « California Sues OpenAI Over ‘Entirely Foreseeable’ Breaches »
