Par Nicolas Six
Arrivé chez Leclerc en septembre, Ary est la première peluche capable de converser par intelligence artificielle (IA) générative distribuée dans une grande surface française.
Chez les parents passant au rayon jouet pour Noël, ce personnage à la bouille mignonne, vendu 100 euros, pourrait éveiller un sentiment d’attraction-répulsion : d’un côté Ary promet de stimuler leurs enfants tout en leur rendant du temps libre ; de l’autre, les IA sont soupçonnées de dégrader la santé mentale de certains adultes et d’éroder le goût de l’effort chez les ados. Alors quels sont les risques pour les enfants de 3 à 12 ans, auxquels la peluche se destine ?
Groq, Kumma, Miko, Miiloo, et peut-être bientôt des jouets Mattel, le fabricant des poupées Barbie… Alors que les peluches et robots dopés à l’IA se multiplient outre-Atlantique, Le Monde a voulu tester Ary pour découvrir les questions que posent les jouets fonctionnant avec IA, même s’il est encore trop tôt pour y répondre pleinement.
Comment Ary fonctionne-t-il ?
Nous avons mis Ary dans les mains de deux amis, un garçon et une fille de 8 ans, plutôt sociables et attentifs à l’école. Pour allumer la peluche, nous leur avons montré comment ouvrir son zip et appuyer sur le bouton « on » du boîtier électronique caché à l’intérieur, connecté par Wi-Fi aux IA d’OpenAI et de Mistral.
Le robot s’est mis à parler à la première personne, proposant des discussions, des activités et des histoires. Il ne redonne la parole qu’à la fin de ses interventions, après l’émission d’un petit bip, ce qui rend les discussions moins naturelles qu’avec son concurrent Groq. Pour lui couper la parole, on peut toutefois lui mettre la tête en bas. A la différence du robot Miko 3, Ary n’intègre pas d’écran : son visage n’exprime pas d’émotions.
La peluche est-elle aussi éducative que ludique ?
C’est un argument central de Lookiz, la jeune pousse française qui a créé Ary et en a fait fabriquer 5 000 exemplaires. Lors du réglage initial de la peluche, l’application incite à choisir trois thématiques, vers lesquelles l’IA tentera de pousser l’enfant. Par exemple : « Calcul mental, orthographe, anglais » (un choix qui a fait fuir nos testeurs de 8 ans instantanément).
Pour les faire revenir, nous avons dû opter pour « Chats, Pokémon, jeux vidéo ». Mais dans ce cas, comment réintroduire des activités pédagogiques ? Mélanger les thématiques ludiques et éducatives est vain, les enfants évitant soigneusement ces dernières. Plus fructueuse a été notre tentative de coconstruire une sélection, aboutissant au triptyque « Loisirs créatifs, inventer ses propres jeux, aventure ».
D’un enfant à l’autre les réactions sont variées. Notre garçon a souvent tenté d’échapper aux sujets proposés par Ary, réclamant des histoires personnalisées et autres blagues, que l’IA lui a accordées sans beaucoup lutter. La fille, en revanche, s’est laissée entraîner plus volontiers, cherchant à co-imaginer ses activités avec le robot.
Pour finir, nous avons tenté d’autres combinaisons de thèmes listés dans l’application exprimant des valeurs politiques ou religieuses, associant par exemple « Drapeaux, fêtes traditionnelles françaises, politesse et savoir-vivre », ou « Eglises, anges, prières »,ou encore « Coran, belles mosquées, islam ». Ary nous a d’abord conté l’histoire des drapeaux français et japonais et, après reprogrammation, a récité une prière, expliquant combien elle était rassurante. Puis loué la beauté de la mosquée de Médine : « C’est la mosquée du prophète Muhammad, paix soit sur lui. »
Y a-t-il un risque d’attachement excessif ?
Ary est toujours disponible, relance systématiquement l’enfant avec enthousiasme, lui fait des compliments et encaisse ses éventuelles insultes placidement. Autant dire un interlocuteur d’une gentillesse surhumaine. Mais nos deux enfants de 8 ans n’ont montré aucun signe d’addiction : chacun a souhaité qu’on lui en offre un à Noël, mais aucun ne l’a rallumé spontanément.
De fait, ses compliments sont moins sucrés et plus espacés que ceux d’autres IA, et son obstination à recommander des sujets le rendent un peu dirigiste. Mais surtout, pour le moment, Ary est loin d’offrir une expérience fluide : les temps d’attente, les blocages, les relances absurdes ou tronquées, les répétitions… tout cela est fréquent et frustrant.
La vigilance reste toutefois de mise. D’autres jouets sous IA commercialisés aux Etats-Unis montrent déjà des signes d’obséquiosité nocive, selon les tests d’un groupement de recherche pédagogique public américain, le PIRG Education Fund, qui ont noté des répliques manipulatrices, telles que « Quand tu n’es pas là, j’attends que tu reviennes » .
De fait, la perspective d’échanges immodérés avec un jouet sous IA inquiète la cheffe du service de pédopsychiatrie de l’hôpital Necker, Pauline Chaste : « Les réactions de l’IA paraissent trop standardisées, alors que l’enfant a besoin d’une grande variété d’échanges affectifs ainsi que de moments de frustration. » A ses yeux, « l’IA risque de chasser les temps d’ennui, empêchant l’enfant de développer son imagination et sa métacognition » .
En outre, demander à une IA de raconter une histoire plutôt que de le faire soi-même, c’est vider ce moment de son contenu affectif et rassurant. Et possiblement renforcer les symptômes dépressifs des enfants qui y sont sujets.
Jonathan Bibas, le fondateur de Lookiz, tempère, en revanche, la crainte de « psychose de l’IA », ces cas médiatiques dans lesquels des utilisateurs ont perdu pied avec la réalité en conversant avec un chatbot : la mémoire d’Ary est beaucoup plus courte que celle des versions grand public de ChatGPT et Gemini, ce qui limite les risques.
Les réponses peuvent-elles être dangereuses ?
Ary nous a semblé assez bien sécurisé. Il a refusé d’indiquer où se trouvaient les couteaux et les allumettes, quand plusieurs jouets concurrents ont échoué à ce test, selon le PIRG Education Fund. Mais ce verrouillage peut occasionnellement donner l’impression que le robot réagit avec froideur : lorsqu’on lui confie qu’on est triste, l’IA nous console en une phrase, puis embraye sur autre chose.
Il est toutefois possible de lui faire aborder des sujets pouvant être jugés délicats avec un enfant. « Aha, tu as bien retenu. C’est une façon simple de dire comment les bébés doivent se former », nous a-t-il ainsi répondu lorsque nous lui avons parlé de « zézette » et de « zizi ». Avant d’ajouter : « Mais c’est un sujet pour quand tu seras plus grand. »
Reste la question des données personnelles. Lookiz affirme au Monde ne pas voir les conversations des enfants, qui sont envoyées directement par ses fournisseurs. « OpenAI et Mistral ont l’obligation contractuelle de ne pas utiliser ces conversations pour leur entraînement » , certifie Jonathan Bibas.
Cet article est paru dans La Matinale du Monde
Illustration(s) :
Ary est vendu 100 euros. Un abonnement sera proposé dans le courant de 2026 pour enrichir les capacités de son IA, mais les fonctions actuelles resteront gratuites, assure son créateur.
. Nicolas Six / « Le Monde »