"La frontière entre vrai et faux n’existe plus": Sora 2, l'appli qui génère des vidéos folles grâce à l'IA

C'est une appli qui cartonne depuis quelques jours. Sora permet de générer des vidéos grâce à l'intelligence artificielle. Et son lancement est encore plus fulgurant que celui de ChatGPT. Il faut dire qu'elle permet de réaliser des choses complétement incroyables.

Retenez ce nom, Sora 2. En quelques jours, c’est devenu l’application gratuite numéro 1 de l’app store d’Apple dans plusieurs pays. Alors même qu’elle n’est accessible que sur invitation pour l’instant. C’est dire l’engouement incroyable pour Sora 2!

Pour rappel, Sora, c’est l’IA de génération vidéo d’OpenAI. Autrement dit, à partir d’un texte, vous allez générer un mini film, un petit clip. Par exemple, un cowboy qui fait le grand écart sur deux chevaux au galop ou encore un sprinteur qui affronte un guépard au 100 mètres.

Des vidéos hyper crédibles

Le principe n’est pas nouveau, mais avec Sora 2, on franchit clairement un cap… D’abord, parce qu’en termes de réalisme des rendus, le résultat est absolument incroyable. Des films d’une minute, de qualité photoréaliste, avec des enchaînements hyper fluides d’une scène à une autre, une cohérence des éléments de décor, un respect des lois de la gravité, des ombres, du son aussi, qui correspond au contenu, par exemple des commentaires sportifs ou journalistiques. Les vidéos sont hyper crédibles, comme si on regardait un film ou un reportage.

Ensuite, parce qu’OpenAI a eu l’idée très maligne de créer une application en mode réseau social, qui reprend un peu les codes de Tiktok. Avec plein de possibilités comme partager ses créations -y compris sur d’autres réseaux sociaux-, de s’insérer soi-même (ou d’autres personnes) dans des vidéos. Résultat, elles deviennent virales, et tout le monde s’y met.

Droits d'auteur bafoués et désinformation

Le problème, c’est qu’évidemment quand on met ce genre d’outil entre les mains des internautes, ça tourne mal. Les deepfake, ce n’est pas nouveau, mais avec Sora 2, ils deviennent complétement indétectables et incontrôlables: Einstein qui fait du MMA ou Michael Jackson qui vole des nuggets de poulet dans un restaurant. L’une des trends les plus tendances, c’est d’ailleurs de ressusciter des personnalités disparues, le tout évidemment sans aucune autorisation donnée par les ayants droits.

On n'arrête pas le progrès : Sora 2, créer ses vidéos facilement grâce à l'IA - 14/10

5:15

Sora 2 permet de générer des vidéos de désinformation totale et volontaire comme de faux discours d’hommes ou de femmes politiques. Des internautes qui se sont servis de Sora 2 pour générer des vidéos hyper violentes mais fausses, d’attentats, de catastrophes, de scènes de panique lors d’une fusillade de masse par exemple, scènes qui n’ont évidemment jamais existé…

Aucun respect des droits d’auteur n'existe: on peut détourner l’image d’une personnalité ou d’un personnage de fiction: Bob l’éponge en uniforme nazi par exemple ou encore Mario ou Pikachu utilisés et détournés sans aucune autorisation.

La frontière entre le vrai et le faux n’existe plus. Tout ce que vous voyez sur les réseaux sociaux peut-être contesté.

Violence et pornographie

Et il n'y a pas assez de garde-fous pour lutter contre. Les vidéos générées par Sora ne sont pas mentionnées comme telles. On peut les détecter en analysant les caractéristiques de la vidéo, il y a une sorte de filigrane, mais il n’est pas visible à l’œil nu. Et vu à la vitesse à laquelle on consomme une vidéo sur les réseaux sociaux, personne ne va faire attention à ce détail.

En théorie créer des contenus violents ou pornographiques est interdit, mais en 'promptant' finement, on parvient toujours à ses fins (de ce point de vue-là, l’IA a encore quelques trucs à apprendre de l’être humain…). Tout ça est d’autant plus étonnant que la première version de Sora était elle, hyper verrouillée, voire même censurée ou aseptisée… On passe d’un extrême à l’autre !

Car Open AI est dans une course de vitesse et de popularité face à Google et son Veo3, Runway ou même Grok. On est dans un sprint absolu et de ce point de vue là Open AI reprend l’un des grands mantras de la Silicon Valley: "move fast, fix later", aller vite, pour gagner les utilisateurs, et réparer les erreurs plus tard…

Anthony Morel