"On arrive toujours à détourner l'IA": le futur contrôle parental de ChatGPT laisse sceptique

Open AI a annoncé mettre en place un contrôle parental pour son outil d'IA conversationnel, ChatGPT. "ll y a toujours une autre manière de poser la question, un moyen de récupérer une information par des formulations détournées", met en garde Magali Germond, spécialiste de l’éthique du numérique.

ChatGPT va instaurer un contrôle parental d’ici la fin du mois. C’est sa maison mère, OpenAI, qui l’a annoncé mardi dans un communiqué. En France, plus de la moitié des 15-24 ans a déjà utilisé ChatGPT, d’après une étude de Médiamétrie parue en décembre dernier.

Pourquoi ? Parce que cette intelligence artificielle est visée par une plainte : elle est accusée par une famille américaine d’avoir encouragé le suicide de leur fils, à qui il confiait son mal-être. Résultat : ChatGPT tente de réagir en proposant aux parents de garder le contrôle sur les échanges de leurs enfants.

L’entreprise américaine va permettre aux parents de lier leur compte à celui de leurs enfants. Un droit de regard qui doit leur donner la main sur la gestion des paramètres, mais aussi les alerter directement en cas de "de détresse aiguë" de la part de leur enfant. Si, par exemple, leur progéniture fait état d’un mal-être profond en posant des questions à ChatGPT, les parents seront immédiatement avertis.

"Pas suffisant"

Mais comment détecter efficacement ces interrogations ? C’est la question que soulève Magali Germond, spécialiste de l’éthique du numérique: "Attention, parce que la faiblesse de l’IA conversationnelle, c’est qu’on arrive toujours à la détourner. Il y a toujours une autre manière de poser la question, un moyen de récupérer une information par des formulations détournées. C’est une première étape, c’est mieux que rien, mais ce n’est pas suffisant. Restons vigilants", dit-elle auprès de RMC.

L'annonce de mardi, "c'est vraiment le strict minimum", a réagi auprès de l'AFP Melodi Dincer, une avocate qui a porté le dossier en justice avec les parents et une association.

Les choix de la bande : Le concours de médecine avec ChatGPT, un scandale belge - 02/09

6:36

OpenAI a dit prendre d'autres mesures, attendues dans les 120 prochains jours. L'entreprise redirigera ainsi certaines "conversations sensibles" vers des modèles de raisonnement comme GPT-5-thinking, plus évolué. "Les modèles de raisonnement suivent et appliquent plus systématiquement les consignes de sécurité", a précisé le groupe américain.

Alfred Aurenche avec LM