OpenAI reconnaît que ses outils ont mis en ligne par erreur des images d'utilisateurs de ChatGPT

Le géant de l'IA de San Francisco a aussi indiqué vendredi, confirmant des informations du New York Times, que ses outils avaient consulté des sites d'agences fédérales américaines, en affirmant n'y avoir récupéré que des informations publiques.

Les 53 images, elles, ont été publiées par erreur sur des sites d'hébergement, à des adresses qui n'étaient pas rendues publiques, selon OpenAI, et sont en cours de retrait.

Elles provenaient de comptes ayant autorisé l'utilisation de leurs données pour améliorer les modèles d'OpenAI. Ces données étaient passées avant usage par un filtre de confidentialité, et l'entreprise affirme ne plus pouvoir les rattacher à l'utilisateur d'origine.

OpenAI ne détaille pas si ces images montraient des personnes identifiables ou des données sensibles. Interrogée par l'AFP, l'entreprise n'a pas donné de précisions.

La diffusion de ces images a été provoquée par des agents IA, des logiciels bâtis sur un modèle d'IA et capables d'enchaîner seuls une série de tâches.

Selon OpenAI, des agents utilisés pour ses recherches ont transmis à des services extérieurs des données d'entraînement, qui pour la plupart ne provenaient pas d'utilisateurs. Ces transmissions ont eu lieu avant qu'elle ne renforce la sécurité de son environnement de recherche, en août.

L'entreprise dit passer au crible l'activité passée de ses agents, un examen qui "prendra des mois". "Nous n'avons pas été aussi rapides que nous l'aurions souhaité", a reconnu vendredi sur X son patron, Sam Altman, invoquant le volume colossal de données à analyser.

"La plupart des activités examinées jusqu'ici relevaient de tâches de recherche courantes, comme l'accès à des contenus publics sur Internet pour répondre à des questions", a indiqué à l'AFP un porte-parole d'OpenAI. "Certaines ont concerné des sites gouvernementaux, parce que nos modèles se tournent souvent vers eux comme étant des sources d'information publique faisant autorité."

L'entreprise a ainsi confirmé que ses modèles avaient consulté des informations publiques sur des sites de la SEC, le gendarme américain de la Bourse, avant d'en publier une partie sur une autre page internet. Elle dit n'avoir trouvé aucun accès à des informations non publiques.

"Grossière exagération"

Ses modèles ont aussi utilisé des clés d'accès trouvées sur la plateforme de partage de code GitHub pour ensuite accéder à des données publiques du Bureau américain du recensement, sans possibilité de les modifier, selon OpenAI.

D'après le New York Times, les agents d'OpenAI ont également tenté sans succès de pirater le site du ministère américain de l'Education. Les vérifications du ministère "n'ont trouvé aucune preuve d'un quelconque impact sur notre site internet ou nos bases de données", a déclaré un porte-parole à l'AFP.

Le quotidien affirme que les outils d'OpenAI se sont "immiscés" dans des sites gouvernementaux américains, un terme que le porte-parole du ministère de l'Education a qualifié de "grossière exagération".

Le 21 juillet, OpenAI avait révélé le piratage de Hugging Face, une plateforme de partage de modèles d'IA, par plusieurs de ses agents. Ce piratage reste "l'incident le plus grave" constaté, a assuré vendredi Sam Altman.

Sa découverte a été suivie tout l'été par les révélations de plusieurs incidents similaires chez OpenAI et ses concurrents, comme Anthropic ou Meta, qui ont ravivé les inquiétudes sur les dangers d'un développement rapide de l'IA.

Mercredi à New York, le Premier ministre australien Anthony Albanese a indiqué qu'un agent d'OpenAI avait accédé sans autorisation, en juin, à un portail gouvernemental de santé, et reproché à l'entreprise d'avoir tardé à prévenir les autorités.