OpenAI lance un service de sécurité IA sans rétention de données

Résumé

OpenAI présente « Private Safety Processing », un système de sécurité automatisé conçu pour détecter les abus sur plusieurs sessions sans conserver les données de ses clients.

Les faits

OpenAI dévoile un nouveau service de sécurité axé sur la confidentialité, baptisé « Private Safety Processing », proposé en avant-première à une sélection de clients entreprise. Le système est présenté comme une « approche de sécurité centrée sur la confidentialité » destinée à surveiller les usages abusifs tout en ne conservant aucune donnée client. Ce service vient élargir la portée de la politique de « Zero Data Retention » (ZDR) qu’OpenAI applique déjà via des agents intégrés à son API, qui surveillent les abus session par session sans rétention de données. OpenAI décrit Private Safety Processing comme une technologie de « surveillance de sécurité à long horizon » capable d’évaluer les entrées et sorties de plusieurs conversations, plutôt qu’une seule, grâce à un agent qui analyse les interactions sur plusieurs sessions en cas de déclenchement. L’objectif explicite est de mieux détecter les usages malveillants étalés dans le temps, par exemple un acteur cherchant à concevoir un malware pour une cyberattaque en fractionnant ses requêtes. Selon un porte-parole cité, Private Safety Processing peut analyser ces conversations multiples pour repérer des signes d’abus sans revue humaine des échanges. Si le système est déclenché, il envoie un « signal étroitement défini » à OpenAI concernant un type d’activité spécifique, à partir duquel l’entreprise décide si une « mesure d’application » est nécessaire. En cas d’intervention, OpenAI indique qu’elle contactera le client pour obtenir davantage de contexte ou travailler avec lui sur le problème, le client restant libre de choisir s’il partage ou non des données supplémentaires. Cette stratégie se positionne directement en contraste avec la politique annoncée par Anthropic en juillet, qui permet au laboratoire de conserver pendant 30 jours les données des utilisateurs – sessions et conversations – pour les « modèles couverts », comme les modèles de classe Mythos et « les futurs modèles aux capacités similaires ».

Pourquoi c’est important

Avec Private Safety Processing, OpenAI cherche clairement à prendre l’avantage sur Anthropic dans la bataille cruciale de la protection des données des clients entreprise. Là où Anthropic a choisi une rétention de 30 jours pour certains modèles afin de renforcer la sécurité, OpenAI mise sur une surveillance avancée sans rétention, en s’appuyant sur des agents capables de suivre les interactions sur plusieurs sessions. Ce différentiel de stratégie intervient dans un contexte de compétition intense entre les deux laboratoires, où chaque décision en matière de confidentialité et de sécurité peut peser sur l’adoption par les entreprises. L’article rappelle que la politique d’Anthropic a « profondément inquiété » certains grands comptes manipulant des données sensibles, tandis qu’OpenAI met l’accent sur une approche automatisée, sans revue humaine par défaut et sans stockage des conversations, pour rassurer ces clients tout en conservant des capacités de détection des abus.

Questions fréquentes

Qu’est-ce que Private Safety Processing chez OpenAI ?

Private Safety Processing est un système automatisé qui surveille les abus potentiels sur plusieurs conversations sans conserver les données des clients.

Comment Private Safety Processing s’appuie sur Zero Data Retention ?

Il élargit la portée de Zero Data Retention en permettant une surveillance « à long horizon » sur plusieurs sessions, toujours via des agents et sans rétention.

En quoi la politique d’Anthropic diffère-t-elle de celle d’OpenAI ?

Anthropic conserve les données des utilisateurs pendant 30 jours pour des « modèles couverts », alors qu’OpenAI met en avant une détection des abus sans rétention.

Le système d’OpenAI implique-t-il une revue humaine des conversations ?

La détection se fait par agent automatisé sans revue humaine des conversations ; OpenAI ne contacte le client que si un « signal étroitement défini » est déclenché.

Que se passe-t-il si Private Safety Processing détecte un abus potentiel ?

Le système envoie un signal spécifique à OpenAI, qui peut décider d’intervenir en contactant le client, libre de partager ou non des données supplémentaires.

Source

Auteur

Rédaction spécialisée dans la veille et l'analyse de l'actualité de l'intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.