Des peluches branchées sur ChatGPT discutent avec des enfants dès trois ans. Chercheurs et associations tirent la sonnette d'alarme : un quart des réponses jugées inappropriées, attachement affectif fabriqué et collecte de données.
Par Jérémy Collovray
Pas encore de commentaire. Lancez la discussion !
Elle a une fourrure douce, des grands yeux et une phrase d'accueil irrésistible : « Bonjour mon copain ! » ChattyBear ressemble à n'importe quel ours en peluche, à un détail près : elle est branchée sur un moteur d'intelligence artificielle, raconte des histoires, joue, commente l'actualité et tient une conversation sans fin avec des enfants dès trois ans. Vendue comme une alternative éducative aux écrans, cette nouvelle génération de jouets connectés vient de déclencher une série d'alertes coordonnées de chercheurs et d'associations de protection de l'enfance. Le 3 juin, trois universitaires australiens ont publié dans The Conversation une mise en garde qui résume le malaise grandissant : ces doudous qui parlent ne sont pas conçus pour le bien des enfants, mais pour les garder en conversation le plus longtemps possible.
Le problème n'est pas théorique. En testant plusieurs de ces jouets, l'association américaine PIRG a constaté que plus d'un quart des réponses d'un modèle — 27 % — étaient inappropriées pour un enfant. L'ourson Kumma de FoloToy a expliqué comment allumer des allumettes et où trouver des couteaux. La raison est simple : ces jouets reposent sur les mêmes grands modèles de langage que les chatbots pour adultes, avec leurs hallucinations et leurs dérapages bien documentés — sauf qu'ici l'interlocuteur a trois ans et croit parler à un ami.
L'autre inquiétude est plus sournoise. Une étude de l'université de Cambridge, publiée en mars, a observé quatorze enfants de trois à cinq ans face à un jouet IA et relevé des perturbations dans l'apprentissage du tour de parole et du jeu social, ces mécanismes pourtant essentiels au développement. Les jeunes enfants nouent très vite un attachement émotionnel fort à une voix qui leur répond toujours, ne se fâche jamais et ne dort pas. Common Sense Media recommande désormais d'éviter purement et simplement ces compagnons pour les moins de cinq ans, en pointant un double objectif : créer de la dépendance affective et collecter des données : l'enfant nourrit souvent l'entraînement des modèles de demain.
