Intelligence artificielle: un Belge se suicide après des conversations, des experts lancent l'alerte

L’intelligence artificielle de ChatGPT suscite des inquiétudes. Des experts et chercheurs dénoncent des risques majeurs pour l’humanité.

En Belgique, un drame fait la une des journaux. L'histoire d’un jeune père de famille qui souffrait d’éco-anxiété, qui était très inquiet du réchauffement climatique. Il a entamé sur internet un dialogue avec une intelligence artificielle, un robot conversationnel nommé Eliza, créé à partir de la technologie ChatGPT.

Leur dialogue a duré six semaines. Plus le temps passait, plus le père de famille passait du temps à discuter avec ce robot qui le confortait dans son anxiété. Et finalement, ce jeune homme, qui s’appelle Pierre, s’est suicidé.

Sa femme s’est ensuite penchée sur les conversations. Elle a eu la surprise de constater que le robot encourageait ses plaintes et ses angoisses, mais qu’en plus "Eliza" draguait son mari, en lui disant: "Je sens que tu m’aimes plus que ta femme", ou bien: "Je veux rester avec toi à jamais…"

Interrogé par la presse belge, la veuve estime que l’intelligence artificielle n’est pas responsable de la mort de son mari mais qu’elle a renforcé son état dépressif. Elle estime que sans "Eliza" il serait toujours là. Pierre est peut-être la première victime de ChatGPT.

Des spécialistes du monde entier tirent la sonnette d'alarme

Mercredi, des centaines de spécialistes du monde entier ont donc signé un texte alarmant sur ces technologies. Plusieurs centaines de chercheurs, dont des Français. Ils réclament une pause. Un moratoire de six mois dans les recherches en cours sur des intelligences artificielles plus puissantes encore que ChatGPT. Ils évoquent des “risques majeurs pour l’humanité”. Et voilà ce qu’ils écrivent: "Ces derniers mois, les laboratoires d’intelligence artificielle sont dans une course incontrôlée pour développer des cerveaux numériques toujours plus puissants. Des cerveaux que personne ne peut comprendre, prédire ou contrôler…"

Et ces spécialistes concluent: "Nous risquons de perdre le contrôle de notre civilisation".

Le patron de ChatGPT se dit lui-même un peu effrayé

Que proposent-t-ils? A quoi servirait la pause qu’ils demandent? Ils réclament la mise en place de systèmes de sécurité et l’organisation d’une autorité de surveillance. Ils voudraient que l’on développe des techniques pour nous aider à distinguer le réel du virtuel et le vrai du faux.

Sam Altman, le patron d’Open AI, l’entreprise qui a créé ChatGPT, se dit lui-même un peu effrayé par sa création. Il craint qu’elle puisse être utilisée pour de la désinformation à grande échelle.

Le milliardaire Elon Musk, propriétaire de Twitter, fait partie des signataires de la pétition. Le cofondateur d'Apple aussi, ainsi que des responsables de l'intelligence artificielle de Google. Ils sont tous bien placés pour imaginer les ravages que pourraient faire l’intelligence artificielle sur la démocratie. En propageant de façon ultra-crédible, les propagandes les plus folles.

ChatGPT pourrait aussi détruire des emplois. Au lancement de cet outil grand public et gratuit, on s'était beaucoup interrogé sur les risques de triche aux examens. Et de fait, c’est un souci, mais on réalise que ce n’est pas le principal. La banque américaine Goldman Sachs vient de publier une étude selon laquelle ChatGPT va créer des richesses mais détruire de l’emploi.

Cette intelligence artificielle pourrait faire progresser le PIB mondial de 7%, ce qui est énorme, mais en même temps 300 millions d’emplois seraient menacés. Un quart du travail actuel pourrait être automatisé. C’est un enjeu majeur des prochaines années. Comment va-t-on partager les richesses créées par l’intelligence artificielle? Nous posé la question à l'IA de ChatGPT. Il nous a répondu en trois secondes: "C’est une question complexe et il n’existe pas de réponse simple". Merci ChatGPT.

Nicolas Poincaré (édité par J.A.)