Cadeaux de Noël: quels sont les dangers des jouets pour enfants "boostés à l'IA"?

Des peluches, des robots ou encore des jeux de sociétés intelligents: c'est la nouvelle martingale des fabricants. Faut-il s'en inquiéter?

Intégrer ChatGPT dans des peluches, des poupées ou des jeux de société, c'est la nouvelle tendance: les jeux et jouets "intelligents" pourraient représenter un marché de 40 milliards d'euros dans les huit ans qui viennent. C’est encore balbutiant en France, on en trouve déjà plus aux Etats-Unis.

Par exemple, vous avez l’ours Poe "raconteur d’histoires IA". Un ours en peluche très mignon qui parle aux enfants. Les histoires sont toutes différentes les unes des autres grâce à l’IA. Il est relié à une application sur le téléphone ou la tablette des parents. On choisit via des icônes les différents éléments de l’histoire, les personnages, le lieu. Et l’histoire va être générée aléatoirement à partir de tout ça par ChatGPT, dans 30 langues différentes.

Ou encore Miko, un petit robot avec un écran en guise de visage qui joue à cache-cache, aide à résoudre des problèmes de maths et peut répondre à toutes les questions des enfants.

Avec l’IA, les jouets vont pouvoir devenir ultra personnalisés, pour le meilleur et pour le pire: répondre aux questions, fabriquer des histoires à la demande, intégrer le nom des enfants, de ses amis. Mais aussi s’adapter en temps réel au niveau de langage de l’enfant, pour l’aider à apprendre de nouveaux mots ou concepts. Ou encore adapter les réponses en fonction de ses émotions.

Et intégration de l’IA aussi dans les jeux de société. C’est le cas du célèbre Pictionary, qui revient en version IA. Le principe, c’est de faire deviner un mot aux autres joueurs en le dessinant. Dans cette version, il y a un autre joueur autour de la table: l’IA, sous forme d’une caméra à laquelle on montre les dessins. Si elle devine ce que vous avez dessiné, vous marquez des points. L’IA peut aussi devenir un adversaire (quand on est tout seul), qui va s’adapter au niveau de l’enfant et le faire progresser.

Cela va aussi poser des problèmes, notamment parce que ces jouets intelligents sont aussi des mouchards en puissance, qui écoutent et retiennent tout.

Des questions envoyées à des serveurs externes pour répondre

Ce que sous-entend cette notion de "jouets IA", c’est quand même un objet équipé d’un micro qui écoute et qui envoie ce qu’on lui dit vers des serveurs externes pour obtenir la réponse. C’est un problème qui ne date pas de cette année. Dès 2015, on avait eu la polémique autour d’un modèle de Barbie capable de discuter avec les enfants, mais aussi d’enregistrer tout ce qu’ils racontent et d’envoyer ces informations au fabricant.

Un micro embarqué dans son collier va lui permettre d’"écouter" tout ce qu’on lui dit et d’y répondre. En fait, la poupée est connectée en wifi et va envoyer tout ce qu’on lui raconte vers un système de reconnaissance vocale qui va analyser ses paroles et envoyer une réponse adéquate.

C’est en Allemagne que la polémique a pris, où la poupée est déjà surnommé "Barbie Stasi", du nom de la police politique de l’ex-Allemagne de l’Est, très friande d’écoutes en tous genres. D’abord parce que la poupée ne se contente pas d’écouter, car elle enregistre toutes les conversations, qui sont ensuite stockées sur les serveurs informatiques du fabricant.

Des données collectées sur nos enfants

Ensuite, parce qu’au fil des conversations, la poupée va analyser les goûts et les préférences de sa propriétaire, ce qu’elle aime, ce qu’elle n’aime pas, afin de réutiliser ces éléments dans la conversation (parler de cheval à une jeune fan d’équitation par exemple). En clair, la crainte, c’est que grâce à cette poupée, le fabricant se constitue en toute discrétion une gigantesque quantité d’informations sur les goûts et les couleurs de chaque enfant, et pourquoi pas les exploiter à des fins publicitaires.

L’autre sujet, ça va être celui de la dépendance émotionnelle. Ces jouets vont devenir tellement réalistes dans leurs interactions avec les enfants que ça risque de poser problème.

On n'arrête pas le progrès : Les jouets connectés risquent-ils d'espionner nos enfants ? - 16/12

3:56

Des jouets qui vont devenir des vrais "amis"?

C’est un doudou +++: on lui parle mais il peut répondre, et même comprendre et s’adapter aux émotions de l’enfant. Ces jouets qui deviennent des confidents voire des "amis" peuvent créer un sentiment de connexion profonde chez l'enfant. Cela peut mener à une dépendance émotionnelle, où l'enfant cherche constamment l'interaction avec son jouet pour se sentir bien.

En se focalisant sur les interactions avec un compagnon IA, l'enfant pourrait négliger les relations sociales avec d'autres enfants ou adultes, ce qui pourrait nuire à son développement social. Clairement, ce genre de jouet va nécessiter un accompagnement des parents, pour fixer des limites d’utilisation mais aussi expliquer la différence entre le réel et le virtuel, qui va devenir de plus en plus floue...

Anthony Morel (édité par J.A.)