Des vidéos générées par l’IA envahissent YouTube Kids : les experts expliquent pourquoi elles abîment le cerveau des enfants

Aux États-Unis, une enquête montre que des vidéos absurdes générées par l’IA inondent YouTube Kids, suscitant de vives inquiétudes chez les psychologues.

Une investigation du New York Times, relayée par la presse américaine, met en lumière un phénomène massif : sur YouTube et YouTube Kids, des milliers de vidéos ultra-courtes créées avec l’IA captent l’attention des tout-petits, sans véritable contenu éducatif. Des professionnels de l’enfance alertent désormais sur les risques de ces clips pour le développement du cerveau des enfants.

Des chevaux plongeurs et des éléphants roses en boucle sur les écrans des tout-petits

L’enquête du New York Times s’est penchée sur plus d’un millier de vidéos recommandées à de jeunes enfants sur YouTube, en particulier dans le format court. Les scènes décrites donnent le ton : un cheval qui se jette d’un plongeoir, un éléphant rose qui virevolte autour des lettres de l’alphabet, des animaux avec des membres dupliqués et des yeux disproportionnés.

Ces images défilent pendant des heures sous les yeux de très jeunes enfants, parfois plusieurs fois par jour. Elles sont souvent présentées comme « éducatives » et censées apprendre les lettres, les chiffres ou les animaux. Dans la pratique, décrivent les journalistes, il s’agit surtout de séquences rapides, visuellement chaotiques, aux histoires incohérentes et aux personnages déformés.

Selon l’enquête, une grande partie des vidéos censées être pédagogiques pour les tout-petits reposent sur des suites d’images absurdes générées par l’IA, sans véritable message ni structure.

Les vidéos étudiées sont presque toutes très courtes, rarement plus de 30 secondes. Or, d’après les spécialistes cités par le quotidien américain, une telle durée ne permet pas de développer une histoire compréhensible, ni de mettre en place des répétitions utiles à l’apprentissage, ni de fournir un contexte clair.

Comment l’algorithme pousse les contenus générés par l’IA

Pour comprendre le fonctionnement des recommandations, le New York Times a analysé ce qui se passe après la lecture d’une vidéo d’un grand canal pour enfants, comme CoComelon, considéré comme l’un des plus populaires au monde.

Sur une session de 15 minutes après la diffusion d’un épisode de ce type, plus de 40 % des vidéos suggérées contenaient des éléments visuels générés par l’IA. Certains clips portaient la mention « contenu synthétique » ou « images modifiées », d’autres montraient des erreurs graphiques flagrantes : membres tordus, proportions absurdes, mouvements irréalistes. Quelques vidéos paraissaient en revanche assez fluides pour tromper un regard peu attentif.

Pour confirmer l’origine de ces contenus, les journalistes ont utilisé des outils de détection spécialisés. Ceux-ci ont indiqué, avec une forte probabilité, que non seulement les images, mais aussi les voix et les musiques provenaient d’outils d’intelligence artificielle.

Le phénomène ne se limite pas à la version classique de YouTube, déjà connue pour abriter des contenus de mauvaise qualité surnommés « AI slop » (une « bouillie » de productions automatiques). YouTube Kids, censé offrir un environnement plus filtré pour les familles, héberge lui aussi des vidéos d’animaux qui plongent dans des piscines, d’objets qui se comportent de façon physiquement impossible ou de scènes sans queue ni tête.

Des vidéos absurdes et hyperstimulan­tes se retrouvent au milieu de contenus réputés sérieux, brouillant la frontière entre programmes éducatifs et clips automatisés sans valeur pédagogique.

« Un risque de surcharge cognitive » pour les jeunes enfants

Les inquiétudes des spécialistes ne tiennent pas seulement à l’esthétique étrange de ces vidéos. Elles concernent surtout la façon dont elles sollicitent le cerveau des enfants, notamment avant 5 ans.

Jenny Radesky, pédiatre spécialiste du comportement à l’université du Michigan, citée par le New York Times, qualifie ces contenus de « problématiques » car ils sont conçus pour capturer l’attention des enfants sans offrir en retour un véritable apport éducatif. Les images défilent vite, les scènes n’ont pas de logique claire, l’enfant regarde, fasciné, mais n’apprend presque rien.

Les exemples donnés – un bus qui tombe au sommet d’un toboggan, des animaux qui réalisent des actions impossibles – ne fournissent aucun repère cognitif stable. Ils ne stimulent ni le langage, ni le raisonnement, ni l’imaginaire structuré. Ils figent plutôt l’enfant devant l’écran et saturent son attention.

Rachel Barr, psychologue du développement à l’université Georgetown, insiste sur un autre point : le mélange d’éléments réalistes (un cheval, une piscine, un bus scolaire) et de situations impossibles (plongeons absurdes, lois physiques ignorées) peut perturber les représentations mentales des plus jeunes. Ceux-ci peinent encore à distinguer ce qui relève de la fantaisie ou de la réalité.

Face à des scènes qui semblent à la fois plausibles et irréelles, le jeune enfant doit fournir un effort mental important pour faire le tri, au risque de surcharger ses capacités de compréhension.

Cette « surcharge cognitive » peut être d’autant plus marquée que les vidéos se succèdent à un rythme effréné : coupes rapides, changements de plans permanents, musiques répétitives, couleurs très vives. Les lignes directrices de l’American Academy of Pediatrics recommandent pourtant, pour les contenus destinés aux plus jeunes, d’éviter les excès de stimulations visuelles et sonores et de privilégier les formats plus longs, lents et structurés.

Monétisation, anonymat et responsabilité des plateformes

L’enquête du New York Times s’intéresse aussi à ceux qui produisent ces vidéos. De nombreux canaux étudiés publient plusieurs clips par jour, rendus possibles grâce à des outils comme Runway ou Google Whisk, qui simplifient la génération automatique d’images et de vidéos.

Ces chaînes restent souvent anonymes : peu ou pas d’informations sur les personnes derrière, pas d’indication claire sur leurs objectifs, parfois des descriptions floues qui évoquent vaille que vaille l’« éducation » ou le « fun ». En revanche, elles accumulent des millions de vues et touchent des revenus publicitaires via le Programme Partenaire de YouTube.

• Production automatisée à très bas coût
• Anonymat des créateurs
• Audience composée de très jeunes enfants
• Recettes publicitaires liées au volume de vues

Face aux éléments transmis par le journal, YouTube a suspendu cinq canaux du programme de monétisation et les a retirés de YouTube Kids. Certains clips signalés ont été supprimés pour non-respect des règles de sécurité des mineurs.

La plateforme impose en théorie de déclarer l’usage de l’IA pour les contenus réalistes susceptibles d’être confondus avec des images vraies. Mais cette obligation ne s’étend pas à la plupart des dessins animés et animations pour enfants, qui échappent à un étiquetage systématique. Résultat : l’essentiel de la responsabilité pour repérer ces vidéos incombe aux parents.

Certains témoignages, comme celui d’une mère texane citée par le New York Times, racontent la décision radicale de désinstaller l’application après avoir découvert, dans l’historique de sa fille, une grande quantité de contenus générés par l’IA jugés inquiétants.

L’IA appliquée aux programmes pour enfants : menace ou opportunité ?

Les experts interrogés ne rejettent pas en bloc l’usage de l’intelligence artificielle auprès des enfants. Ying Xu, professeure à la Harvard Graduate School of Education, travaille par exemple sur des applications d’IA conçues pour soutenir le développement du langage.

Dans le cadre de projets autour de séries éducatives de la chaîne publique américaine PBS, comme Elinor Wonders Why, des personnages interactifs ont été développés. Ils peuvent dialoguer avec l’enfant et proposer des retours personnalisés sur des notions scientifiques ou mathématiques de base, les fameux domaines STEM (sciences, technologie, ingénierie, mathématiques). Les premiers résultats évoqués par la chercheuse sont présentés comme prometteurs, avec une meilleure compréhension de certains concepts.

Pour de nombreux chercheurs, la vraie frontière ne se situe pas entre « avec IA » ou « sans IA », mais entre un usage pensé pédagogiquement et une production de masse centrée uniquement sur les vues.

Des outils interactifs, scénarisés, adaptés à l’âge de l’enfant et intégrés à une démarche éducative peuvent offrir un complément intéressant aux livres, aux jeux et aux échanges avec les adultes. À l’inverse, une avalanche de clips très courts, produit mécanique d’algorithmes cherchant à optimiser le temps de visionnage, risque de remplacer des activités plus riches : lecture à voix haute, jeux de construction, sorties au parc, discussions avec les parents.

Quelle situation pour les familles en France ?

En France, les questions liées aux écrans et aux enfants font déjà l’objet d’alertes régulières de la part des pédiatres, pédopsychiatres et autorités sanitaires. Les recommandations générales vont dans le même sens que celles observées aux États-Unis : limiter fortement les écrans avant 3 ans, encadrer les usages par la suite, privilégier les programmes lents, explicites, regardés avec un adulte.

Les plateformes étrangères comme YouTube et YouTube Kids étant largement utilisées dans l’Hexagone, les mécanismes décrits par le New York Times concernent aussi les familles françaises : même algorithme mondial, mêmes outils de création automatisée, mêmes formats vidéo. Les paramètres de contrôle parental existent, mais ne permettent pas toujours d’éliminer les contenus générés par l’IA qui se présentent comme inoffensifs.

Les autorités françaises, à travers des organismes comme le Conseil supérieur de l’audiovisuel devenu l’Arcom, peuvent intervenir sur certains aspects liés aux contenus audiovisuels et à la protection des mineurs, mais la modération quotidienne des vidéos reste largement entre les mains des plateformes elles-mêmes.

Repérer les vidéos « nonsense » et limiter leur impact

Les spécialistes de l’enfance cités par la presse américaine rappellent quelques critères simples pour identifier des vidéos potentiellement problématiques pour les jeunes enfants :

À l’inverse, les contenus généralement jugés plus adaptés aux jeunes enfants présentent une histoire simple, un rythme lent, un vocabulaire compréhensible et des situations proches du quotidien ou clairement identifiées comme imaginaires (contes, fables, dessins animés classiques).

Comprendre l’IA derrière ces vidéos et les enjeux pour le cerveau

Les outils d’intelligence artificielle utilisés pour générer ces vidéos fonctionnent en général à partir de « prompts », de simples instructions textuelles. On décrit une scène – « un éléphant rose qui tourne autour de lettres colorées, avec une musique joyeuse » – et l’algorithme produit une séquence animée plausible en quelques minutes, voire en quelques secondes.

Ces technologies ne réfléchissent pas au sens ou à l’adaptation à l’âge des enfants : elles combinent des images apprises dans d’immenses bases de données pour obtenir un résultat qui semble cohérent au premier regard. Quand ces productions sont multipliées à grande échelle, sans réflexion pédagogique, elles remplissent le temps d’écran des enfants avec des stimuli continus mais pauvres en contenu.

Pour un cerveau en plein développement, notamment entre 2 et 6 ans, cette exposition répétée à des contenus très intenses et peu structurés peut perturber l’apprentissage de l’attention soutenue, celle qui permet ensuite de suivre une histoire, d’écouter une consigne à l’école ou de rester concentré sur un jeu. Les experts évoquent aussi un risque de compétition avec les activités essentielles à cet âge : jeux symboliques, interactions sociales, langage oral, motricité.