Grok: le nouvel outil d'Elon Musk est-il un progrès ou une machine à "deep fakes"?

Les images générées artificiellement ont déjà inondé Internet ces derniers mois, mais le nouvel outil apparu sur X, le réseau social qu'Elon Musk a racheté, permet d'en générer avec une facilité déconcertante.

Les images produites par intelligence artificielle se multiplient sur Internet et commencent à poser problème. En quelques clics désormais, vous pouvez générer des images qui ressemblent à des photos bien réelles: de fausses situations, de fausses scènes, de fausses rencontres… Tout ça généré en quelques secondes et c'est si réussi qu’on s’y méprend facilement. Et c’est très ludique aussi. Tout le monde peut jouer, même Madonna.

La chanteuse s'est retrouvée au cœur d’une polémique ce week-end. On sait que la star américaine aime choquer, provoquer, y compris dans le domaine religieux. Déjà, en 1989, elle sexualisait Jésus Christ dans le clip de Like a Prayer. Elle n’a pas peur de jouer avec le blasphème. Et ce week-end, elle a repartagé des clichés d’elle avec le pape sur Instagram. De fausses photos générées par IA où François est très proche de Madonna, et tactile. Il la tient par la taille. On dirait qu’il veut l’embrasser. Même les fans de Madonna sont divisés, car certains y ont vu une blague irrespectueuse.

Depuis quelques jours, ces fausses photos apparaissent par dizaines, par centaines sur les réseaux sociaux.

C’est notamment X, anciennement Twitter, qui a mis le feu aux réseaux avec son nouvel outil d’intelligence artificielle, la fonction Grok. Une nouvelle version lancée il y a une semaine. Vous écrivez ce que vous voulez voir en image -ça s’appelle un "prompt"- une phrase, un texte court que vous adressez à une IA. Et quelques secondes plus tard, le logiciel vous fait des propositions, basées sur les milliards d’images qui existent déjà en ligne. Vous pouvez générer 25 photos toutes les deux heures, au-delà c’est payant.

Une machine à deep fakes

Va-t-on les qualifier de fake news? C’est souvent leur utilisation en tout cas, car ce sont bien de fausses images. On appelle ça des "deep fakes", des "faux profonds" pour traduire littéralement. Il y a écrit Grok, discrètement, en bas de l’image. Mais bon courage pour faire la distinction entre la blague et la désinformation. La force de Grok, c’est le réalisme de ses photos. Et ce sont des dizaines d’images politiques qui ont circulé ce week-end sur les comptes français.

Et c’est vrai que c’est amusant: Sandrine Rousseau souriante derrière un barbecue, Donald Trump et Jean-Luc Mélenchon qui se serrent la main dans l’espace... François Bayrou à peine nommé à Matignon vendredi, X regorgeait de fausses images de lui en Superman survolant Paris ou en Miss France avec le diadème et l’écharpe.

Il y a ce faux selfie historique, aussi: le général de Gaulle, Jacques Chirac et Emmanuel Macron tout sourire devant la tour Eiffel.

On ne va en revanche pas s’amuser à relayer les images les plus dégradantes, il y en a aussi et beaucoup... On peut désormais fabriquer n’importe quelle image, depuis son smartphone.

Expliquez-nous par Matthieu Belliard : IA, Grok, la fabrique à deepfakes - 16/12

3:29

Ne plus se fier à ce que l'on voit

On ne peut plus se fier à ce que l’on voit. L’image n’est plus une preuve. Notre œil s’exerce, on apprend à déceler des anomalies, mais la machine progresse vite. Alors, on apprend surtout à douter de ce que l’on voit. L’intelligence artificielle vient défier notre intelligence à nous. Ces fausses images peuvent évidemment servir à illustrer des articles bidon.

Elon Musk l’assume, il s’agit de faciliter la fabrication d’images virales. Pour l’instant. Car le milliardaire annonce une prochaine version où l’intelligence artificielle lira les comptes-rendus d’affaires en justice pour proposer des "verdicts juridiques extrêmement convaincants".

Matthieu Belliard (édité par J.A.)