Une IA pour identifier les mineurs sur les sites pornos

L'Office of communications (Ofcom), l'autorité régulatrice des télécommunications au Royaume-Uni, fait savoir que la vérification de la majorité, exigée pour accéder à des sites pornographiques, pourra prochainement être faite à l'aide d'un outil de reconnaissance faciale par intelligence artificielle.

Scanner le visage des internautes qui vont sur les sites pornos pour vérifier qu’ils sont bien majeurs, cela pourrait bientôt être une réalité : au Royaume-Uni. C’est une recommandation très sérieuse de l’Ofcom, l’équivalent britannique de l'Arcom, le gendarme des télécommunications.

L'Ofcom part du principe qu’il est urgent de limiter l’exposition des mineurs aux sites pornographiques, et que les mesures en place sont totalement insuffisantes. Aujourd’hui quand on se connecte, un simple bandeau demande si on est majeur. On clique sur "oui" et on a accès à la plateforme.

Un outil efficace ?

Demain il faudra le prouver, en montrant son visage à la webcam de l’ordinateur ou à la caméra du smartphone. Ensuite, c’est un algorithme entraîné en analysant des millions de visages va être capable de dire "tel internaute a 19 ans", "celui-ci en à 15".

Sur le papier, pourquoi pas, mais ça va poser un certain nombre de questions, à commencer par celle de l’efficacité.

Sur ce genre d’algorithme, déjà utilisé au Royaume-Uni pour vérifier l’âge des consommateurs qui veulent acheter de l’alcool dans les supermarchés, la marge d’erreur serait d’1,6 ans, ce qui n’est pas négligeable.

Ils estiment aussi que ce n’est pas fiable à 100% : certaines personnes ont un visage plus marqué (on connaît tous des gens qui ne "font pas leur âge", dans un sens ou dans l’autre) et donc la machine va être leurrée.

Les résultats peuvent aussi varier en fonction de la couleur de peau. Nous avons déjà eu l’occasion de tester ce genre d’outil (pas celui-ci spécifiquement), et globalement ce n’était pas d’une précision incroyable.

Une possible arrivée en France

En France, on a exactement le même débat. Ca doit être tranché dans le cadre de la loi de sécurisation de l’espace numérique, qui est actuellement discutée au Parlement. Rien n’est tranché mais la Cnil a dit qu’elle n’était pas opposée au système de scan du visage pour vérifier l’âge.

Ce type de dispositif est utilisé dans d’autres contextes : la Française des jeux teste depuis quelques mois chez certains buralistes des bornes électroniques équipées d’une caméra qui permet de donner instantanément une estimation de l’âge du client grâce à l’IA.

Concrètement, le client qui veut acheter un jeu à gratter ou faire un loto par exemple, peut soit présenter sa carte d’identité, soit passer par la borne. Une technologie qui existe depuis longtemps dans d’autres pays, pour l’achat d’alcool dans les supermarchés par exemple.

Une technologie qui aussi été retenue par Instagram pour vérifier si les utilisateurs ont plus de 13 ans.

Une surveillance qui interroge

Il faut noter que ce n’est pas de la reconnaissance faciale : le logiciel ne permet pas d’identifier une personne. Il permet simplement, en analysant les traits du visage, de donner une estimation de son âge.

Les données ne sont pas stockées, qu’elles sont immédiatement supprimées. Certains disent que c’est un pas de plus vers la banalisation de l’IA à des fins de surveillance.

Dans un contexte où on a aussi cette petite polémique autour des "caméras augmentées" qui pourraient être utilisées pendant les JO de 2024, des caméras de vidéosurveillance couplées à de l’intelligence artificielle, qui seront capables de détecter des situations problématiques ou dangereuses : un mouvement de foule, un colis abandonné, un comportement suspect.

Ce n’est pas de la reconnaissance faciale, mais pour ceux qui se réclament de la défense de la vie privée, c’est une accumulation de petites choses qui nous font basculer dans un modèle pas franchement désirable.

Anthony Morel