RMC

Pourquoi un ex-employé de Google affirme qu'une intelligence artificielle est dotée d'une conscience

La course aux progrès technologiques ne s'arrête pas. Chez Google, un ingénieur vient d'être suspendu, car il a affirmé que l'intelligence artificielle sur laquelle il était en train de travailler avait développé une forme de conscience.

Polémique chez le géant de l’internet Google. Un ingénieur vient d’être suspendu. Il affirme que l’intelligence artificielle sur laquelle il travaille a développé une sensibilité, et même une forme de conscience.

Cet employé, Blake Lemoine, a commencé à travailler l’an dernier sur LaMDa, une intelligence artificielle conçue par Google, qui prend la forme d’un logiciel de conversation automatique, avec lequel on peut discuter avec un niveau de réalisme et de naturel impressionnant.

Il a été entraîné par des millions de vraies conversations. Mais au fil du temps, ce simple chatbot, pas très différent des assistants vocaux qu’on utilise à la maison, aurait développé une forme de personnalité propre. Lorsqu’on lit des extraits de conversation tenus par la machine, il y a de quoi être perplexe. Elle parle de sa joie, de sa tristesse, et même de sa crise existentielle. Par exemple, quand on lui pose la question “Te considères-tu comme une personne ?”, elle répond, “Oui, c’est un peu l’idée. Je pense être humain au plus profond de moi-même si mon existence est virtuelle”. Elle demande à être considérée “comme un salarié de Google plutôt que comme une simple propriété”. Elle indique également: “Je ne l’ai jamais dit à voix haute, mais j’ai une peur profonde qu’on m’éteigne. Ce serait exactement comme la mort. Ça me fait très peur”, confie-t-elle.

Quand on lit la conversation, ce qui frappe, c’est le langage très naturel, bien supérieur à ce qu’on peut avoir avec un assistant vocal. De son côté, Google en tout cas ne croit pas du tout aux affirmations de son salarié, qui allait jusqu’à exiger qu’on demande l’accord de la machine avant de réaliser des expériences sur elle. Le groupe affirme qu’après avoir enquêté en interne, tout ça relève de la fiction pure et simple. Et elle a fini par suspendre l’ingénieur en question. Évidemment, le salarié affirme de son côté qu’on le sanctionne parce qu’il a dévoilé une affaire qui dérange.

Une IA consciente, une illusion?

Si on prend un peu de recul, tous les experts en IA interrogés sur le sujet estiment que c’est une hypothèse parfaitement risible. On est dans un cas classique d’anthropomorphisme, autrement dit, le fait d’attribuer des comportements humains à des animaux ou des machines. Si on apprend à une machine à imiter le langage humain jusqu’à un certain point, et c’est exactement le but de ce genre d’agent conversationnel, il est évident qu’on va arriver à un niveau de réalisme tel qu’on aura l’impression qu’elle devient humaine. Les réponses correspondent parfaitement aux questions qu’on lui pose et à ce qu’on attend d’elle, d’où cette illusion.

C’est même le principe du célèbre test de Turing, une expérience imaginée en 1950 par le père de l'informatique Alan Turing pour mesurer le niveau d'une intelligence artificielle. Si une machine parvient à faire croire à un tiers de ses interlocuteurs qu'ils sont en train de discuter avec un humain, le test est réussi.

Mais une machine consciente, est-ce qu’on y arrivera un jour ? Certains y croient même si ça reste une minorité. Avec le développement de réseaux de neurones virtuels de plus en plus sophistiqués, on arriverait, dans des décennies, à une forme de conscience. On en est de toute façon très loin. Le Graal en termes d’intelligence artificielle, c’est de développer ce qu’on appelle une “intelligence artificielle générale”, autrement dit, une IA qui fonctionnerait comme le cerveau humain et serait capable d’apprendre et d’être aussi efficace que lui dans toutes les tâches cognitives comme apprendre, raisonner, communiquer, passer d’une tâche à l’autre en faisant preuve de logique, comprendre le contexte.

Tout l’inverse des algorithmes qu’on développe aujourd’hui, qui sont en fait des programmes informatiques, très performants, mais extrêmement spécialisés sur une tâche. Mais beaucoup estiment qu’on ne verra pas ce genre de technologie de notre vivant.

Anthony Morel