Une IA capable de lire dans les pensées: des progrès dangereux?

Des chercheurs américains seraient parvenus à mettre en place une intelligence artificielle capable de lire dans les pensées. Ce ne sont que les débuts, mais le potentiel semble vertigneux.

Une avancée technologique et scientifique assez vertigineuse... Des chercheurs américains ont mis au point une intelligence artificielle capable de lire dans nos pensées. Ce qu’on pourrait appeler un "décodeur de pensées". Une machine capable de traduire et de retranscrire tout ce qui vous passe par la tête en texte écrit.

C’est une expérience assez incroyable menée par des chercheurs de l’université d’Austin, au Texas, dont les résultats ont été publiés dans la revue Nature neuroscience. Trois volontaires ont passé 16 heures dans un caisson IRM. Et pendant ces 16 heures, on leur a fait écouter des podcasts. En fonction des mots et des phrases que l’on entend, les flux sanguins dans le cerveau varient. Et ça, on peut l’analyser.

C’est là qu’intervient l’intelligence artificielle, avec un algorithme qu’on a entraîné à décoder ces flux sanguins: tel afflux de sang à tel endroit = telle suite de mots, telle pensée. Et de les transformer en texte écrit. Autrement dit, rien qu’en observant votre cerveau, la machine est capable de deviner ce que vous entendez et de le retranscrire en temps réel.

On a demandé aux volontaires de visionner des films muets... et la machine a réussi à retranscrire

Ce n’est pas parfait au mot près, il y a quelques petites confusions. Par exemple, une phrase comme "laissez-moi tranquille" a été retranscrite comme "je t’avais dit de me laisser tranquille".

Mais globalement, on arrive à résumer de manière très précise ce que vous avez pensé. Plus fort encore: on a demandé aux volontaires de visionner des films muets. Et la machine a réussi à retranscrire ce qui se passait dans le film. Même chose quand on leur a demandé de raconter mentalement une histoire.

Quelle utilité?

Les premières applications de cette avancée sont clairement médicales. Pour des personnes qui sont paralysées, qui ont subi un AVC et ont perdu l’usage de la parole, ou celles qui ont un handicap lourd, un appareil qui pourrait traduire les pensées en texte écrit, ce serait un outil de communication formidable.

A condition qu’on puisse l’améliorer. Pour l’instant, il faut quand même être enfermé pendant des heures dans un IRM. Mais on peut imaginer que d’ici quelques années ou décennies, un simple patch posé sur la tête, capable de décoder les ondes cérébrales, arrive à peu près au même résultat.

Il faut noter que c’est loin d’être la première expérience qui vise à déchiffrer l’activité cérébrale, mais celle-ci a la particularité d’être non-invasive. On pense notamment au projet Neuralink d’Elon Musk, qui vise carrément à implanter des puces dans le cerveau pour leur permettre de communiquer avec un écran. En partant du principe qu’aujourd’hui, pour traduire une pensée en mots ou en image, on est à l’âge de pierre, il suffit de regarder la vitesse à laquelle on tape un message sur son smartphone. Peut-être que dans quelques années, le fait de tapoter l’écran tactile d’un smartphone nous semblera aussi archaïque que celui d’écrire avec une plume d’oie.

Pourrait-on lire dans les pensées d’une personne sans son consentement?

Imaginez ne serait-ce que dans le domaine militaire, pour découvrir les secrets de l’ennemi, interroger un prisonnier politique. On n’en est pas là. La technologie ne fonctionne -pour l’instant- que si on est volontaire. Cela ne peut pas fonctionner à notre insu, il faut une coopération du "patient".

Et surtout, il est assez facile de "casser la machine", autrement dit de saboter l’expérience. Si on ne veut pas qu’elle lise notre esprit, on peut lui faire perdre pied, en pensant à n’importe quoi, par exemple en comptant à l’envers ou en faisant des listes de mots qui n’ont ni queue ni tête. Pour l’instant...

Les chercheurs qui ont mené l’expérience demandent eux-mêmes que des garde-fous soient mis en place. Ils expliquent que même si on est à un stade précoce de la lecture de pensée, il faut "mettre en place des politiques qui protègent la vie privée mentale des gens, leur donnent un droit à leurs pensées et aux données de leur cerveau".

Anthony Morel (édité par J.A.)