Plainte contre ChatGPT, incapable de corriger ses erreurs

ChatGPT divague et même son éditeur OpenAI «ne peut l’en empêcher»: l’association viennoise militant pour la protection de la vie privée Noyb a annoncé lundi le dépôt d’une plainte en Autriche contre le programme star d’intelligence artificielle (IA) générative.

Ce type d’outils «inventent régulièrement des réponses», souligne Noyb (pour «None of your business», signifiant en anglais «Ce ne sont pas vos affaires») dans un communiqué.

Quand elle a par exemple interrogé ChatGPT sur la date de naissance de son fondateur Max Schrems, l’agent conversationnel «a systématiquement donné une fausse information» au lieu de reconnaître qu’il ne savait pas.

«Si un système ne peut fournir des résultats corrects et transparents, il ne saurait être utilisé pour générer des données sur des individus. La technologie doit se plier à la loi, et non l’inverse», insiste l’avocate Maartje de Graaf, citée dans le communiqué.

C’est tout simplement «inacceptable», selon Noyb qui rappelle que le Règlement général européen sur la protection des données (RGPD) stipule l’obligation d’exactitude.

D’autant que l’entreprise OpenAI «a refusé la requête du plaignant de corriger ou d’effacer l’erreur, affirmant que c’était impossible», le désapprentissage de l’IA étant de fait un problème crucial.

Elle n’a pas non plus répondu à sa demande d’accès aux données le concernant et aux sources d’information, en violation là encore de la loi.

Dans sa plainte, l’association Noyb, devenue depuis sa création en 2018 la bête noire des géants de la tech, demande à l’Autorité autrichienne de protection des données d’ouvrir une enquête et d’imposer une amende à la société californienne.

Apparu en novembre 2022 et financé par Microsoft, ChatGPT a été pris d’assaut par des utilisateurs impressionnés par sa capacité à livrer des dissertations, poèmes ou traductions en quelques secondes.

Mais devant les risques, des procédures ont été lancées dans plusieurs pays. L’Italie a temporairement bloqué le programme en mars 2023, tandis que l’autorité de régulation française (Cnil) a entamé l’examen d’une série de plaintes.

Un groupe de travail européen a également été mis en place pour favoriser la coopération.

«Reste à voir où cela va nous mener», commente Noyb, sceptique pour le moment face aux efforts des autorités pour réguler l’intelligence artificielle. Et aussi s'interroger sur les droits à payer par ChatGPT, s'agissant de toutes les informations que l'application va «voler» sur le web, sans la moindre autorisation.