L’enfer du Youtube pour enfants
RAMOS Tommy, LEBRUN Mathilde, SCHWAIGER Sarah
Peppa Pig qui boit de l’eau de Javel, Mickey Mouse qui se masturbe devant Minnie Mouse, Spiderman qui viole la reine des neiges. Ces horreurs n’appartiennent pas aux bas-fonds d’Internet, mais sont visibles sur Youtube Kids… dans les playlists que regardent les enfants. James Bridle a montré qu’il suffit de quelques vidéos, en laissant faire les algorithmes, pour se retrouver au milieu de ces contenus particulièrement choquants[1]. Comment ces vidéos se retrouvent-elles là, en dépit des scandales récurrents ? Pourquoi Youtube a-t-il autant de mal à s’en débarrasser ?
La création de Youtube kids
Le dispositif est malheureusement loin d’être aussi efficace qu’attendu. Youtube Kids ressemble parfois à un repère cauchemardesque pour les plus jeunes. Pour produire des contenus qui se révéleront populaires à bon marché, certaines chaînes pour enfants n’hésitent pas à voler des héros de dessins animés ou films d’animations populaires, rassurants pour les parents et attractifs pour les enfants. Elles mettent en scène des personnages déguisés ou générés par algorithme. Ces chaînes vont aussi utiliser des titres ainsi que des descriptions à rallonge, afin que n’importe quel mot clé entré converge vers leurs vidéos. Quitte à obtenir des titres incompréhensibles.
Mais certaines de ces vidéos intègrent aussi des contenus très choquants et incroyablement violents : on passe de Peppa Pig chez le dentiste à Peppa Pig boit de l’eau de javel ! Une expérience très simple permettant de montrer la dangerosité de Youtube kids consiste à partir d’une vidéo d’une chaîne officielle de dessin animé, qui a donc été vérifiée par Youtube. Activons le défilement automatique, et laissons défiler les vidéos les unes après les autres. On peut renouveler l’expérience un grand nombre de fois, avec toujours le même résultat : au bout d’une dizaine de vidéos en général, apparaîtra un contenu choquant pour les enfants[4].
Imaginez vous avec votre enfant, en train de regarder un épisode de son dessin animé préféré sur Youtube Kids, quand tout à coup, apparait à l’écran une image de meurtre ou de viol ! C’est une réalité que de nombreux enfants ainsi que certains parents les accompagnant ont vécu sur Youtube Kids. Un exemple récent est remonté via plusieurs plaintes de parents sur les réseaux, où dans un épisode d’un dessin animé, était inséré au milieu de la vidéo, un court passage où un homme expliquait aux enfants face caméra, comment s’entailler les veines, avant que le dessin animé classique ne reprenne. Cette vidéo a engendré un nombre incroyable de vues et malgré ce terrifiant passage, elle est restée plus de huit longs mois sur la plateforme[5].
Les contenus malsains mettant en scène des personnages populaires
La plus grande avancée que devaient permettre ces technologies, pour mettre l’humanité sur la voie du progrès, était d’abord un accès simple, gratuit et universel aux connaissances. En effet à une époque où les travaux scientifiques n’étaient accessibles que dans les bibliothèques et demandaient alors un travail de recherche fastidieux, la numérisation des documents et le fait de pouvoir y accéder de n’importe où relevait du rêve. On pensait que si un tel jour arrivait et que toutes les catégories de populations y avaient alors accès, ce serait le début d’une nouvelle ère de la connaissance où la science serait au centre d’une société dont les individus seraient tournés vers la recherche de la vérité ! Cet idéal s’incarne dès l’après-guerre dans une machine comme le Memex de Vannevar Bush, qui pose les fondations du principe de l’hypertexte et du web[4].
C’est cette simplicité d’accès aux connaissances qui d’après ces penseurs cybernéticiens devait permettre aux individus d’atteindre un état de conscience supérieur à eux-même, ayant alors un point de vue sur le monde augmenté et non plus limité par leur seule expérience de vie. Le psychologue Joseph Licklider, à la tête du Bureau des techniques de traitement de l’information à l’ARPA, la principale source de financement de l’informatique américaine, théorise notamment l’idée d’une influence mutuelle entre l’homme et la machine dans une sorte de “symbiose”[5].
Dans la vision de Douglas Engelbart, le grand pionnier des interfaces homme-machine, ces technologies de l’information connectant ensemble les individus augmenteraient alors leur intelligence et leur compréhension du monde, ce qui leur permettrait à leur tour d’améliorer les machines. Cet “intellect augmenté” par l’ordinateur aurait un effet rétroactif sur le système-même et provoquerait ainsi son évolution constante. Engelbart parle alors de “bootstrapping”, une philosophie selon laquelle chaque transformation expérimentale du système sociotechnique se répercute sur le système lui-même, le faisant évoluer.
“L’espoir est que, dans peu d’années, les cerveaux humains et les machines informatiques seront couplés très étroitement, et que le partenariat qui en résulte, pensera comme aucun cerveau humain n’a jamais pensé et traitera les données d’une manière qui n’est pas abordée par les machines de traitement de l’information que nous connaissons aujourd’hui », écrit ainsi Licklider.
Qui se cache derrière ses vidéos ?
L’origine de cette vidéo est inconnue. Il est probable qu’elles soient réalisées par des trolls visant juste à s’amuser, défrayer la chronique et à faire du « buzz ». Mais malheureusement des enfants tombent tous les jours sur des vidéos de ce type. De fait, il est difficile de savoir précisément qui se cache derrière ses vidéos macabres et quelles sont leurs réelles intentions car les comptes YouTube associés sont gérés par des personnes lambdas, cachées derrière un pseudonyme et non pas par des entités connues.
Il est aussi fort probable que derrière ces vidéos, se trouvent des internautes dont l’objectif principal est de générer de l’argent grâce aux grands nombres de vues et les nombreuses publicités mises en avant. Ils savent que les enfants sont naïfs et laissent dérouler sans intervention les playlistes engendrées automatiquement. Ils représentent donc un public considérable en nombre et captif, ce qui permet de gagner de l’argent avec peu d’effort, même si cela implique de les blesser. On pourrait aussi supposer que les auteurs de ces vidéos sont des « trolls » qui publient ces contenus juste pour rire et qui blessent, sans le vouloir, les enfants. On pourrait aussi s’imaginer qu’il s’agisse de personnes sadiques qui prennent du plaisir à faire du mal aux enfants, un peu à l’image des créateurs du « Momo Challenge »[6].
Commentaires pédophiles et maltraitance infantile
Une autre source de danger tient aux contenus publiés par les enfants eux-mêmes. Ainsi, plusieurs vidéos présentes sur YouTube Kids mettant en avant des enfants dans des activités diverses (jouer au Twister, faire de la gym, jouer dans la piscine…) ont fait scandale, à la suite de commentaires à caractère sexuel postés dessus. Des journalistes du site américain The Verge ont par exemple découvert des commentaires pédophiles sous une vidéo dans laquelle des petites filles font de la gym. On retrouve par exemple un internaute qui incite les gens à « liker » son commentaire s’ils ont aussi eu une érection en voyant ces filles[7].
Plusieurs chaînes YouTube « familiales », c’est-à-dire des chaînes où des parents mettent en avant leurs enfants effectuant diverses activités, sont accusés d’être à l’origine de plusieurs actes de maltraitance. Aux Etats-Unis par exemple, la chaîne Toy Freaks, qui comptait 8.5M d’abonnés et qui est aujourd’hui fermée, était tenue par un père de famille accusé de maltraitance vis-à-vis de ses deux filles de moins de 10 ans. On pouvait voir par exemple des mises en scène où le père jetait un crapaud dans leur bain ou encore où il se filmait en train d’étaler de la mousse à raser sur le visage d’une des filles en pleurs. On peut également citer le youtubeur américain DaddyOFive qui, après avoir effectué des canulars jugés cruels, a perdu la garde de deux de ses cinq enfants. En France il existe des chaînes similaires tels que Swan The Voice ou encore Démo Jouets.
Il est important de noter que plusieurs associations françaises, comme l’OPEN, ont jugés le travail des enfants présent dans les chaines YouTube familiales comme étant illicite. Ces actions ont abouti à l’élaboration d’une nouvelle loi, du 19 octobre 2020, visant à encadrer l’exploitation commerciale de l’image des enfants de moins de seize ans sur les plateformes en ligne. Les enfants auront notamment droit à l’oubli numérique, et ce quel que soit l’avis des parents[8].
Comment réagit Youtube ?
Youtube n’a pas eu d’autre choix que d’agir, face au retrait des annonceurs de sa plateforme. Ces derniers refusant d’être associés à de tels contenus. Concernant les propos pédophiles, la plateforme a pris la décision de désactiver les commentaires des vidéos faites par des enfants.
En revanche, pour ce qui est de la modération des vidéos, la tâche est bien plus complexe, car des centaines d’heures de vidéo sont ajoutées chaque minute ! Youtube compte alors sur son système de signalement par les utilisateurs. Or, comme nous l’avons vu auparavant, certaines vidéos peuvent continuer de circuler pendant de long mois malgré une vague de signalements. Mais le plus gros point noir de cette technique est que les enfants n’ont pas le réflexe de signaler les vidéos. Et quand bien même ils le feraient, le mal serait déjà fait puisque cela signifierait que nombre d’entre eux auraient vu du contenu qui aurait pu les traumatiser.
Depuis 2018 Youtube Kids essaye donc de préserver ses jeunes internautes à l’aide de partenaires de confiance. Il s’agit de chaînes et vidéos certifiées. Ce qui devait être le fonctionnement promis de l’application tout entière à son lancement, et non pas une infime partie.
Enfin, il est à présent aussi possible de restreindre dans les paramètres du profil, l’accès des enfants aux seuls contenus approuvés par les parents. Mais il est facile pour des enfants débrouillards de contourner toutes ces restrictions. De plus, nombreux sont les parents à mettre leurs enfants devant Youtube quand ils n’ont pas le temps de s’occuper d’eux. Or, cette option de contenus approuvés demande un investissement en temps considérable puisqu’ils devront regarder minutieusement chaque contenu au préalable.
Youtube Kids a été créé pour satisfaire la demande croissante du jeune public vis à vis de Youtube, pour rassurer les parents de ces jeunes enfants, mais aussi se mettre en conformité avec la législation actuelle. Cette application devait permettre de mettre tout le monde d’accord, tout en permettant à Youtube d’accroître considérablement son chiffre d’affaires en s’imposant légalement sur le streaming chez les jeunes enfants. Étant à l’époque les seuls sur ce marché, cette poule aux œufs d’or aurait dû être un des plus importants succès depuis la création de Youtube. Cependant, Youtube Kids a fait tout l’inverse de ce qui était escompté, en effet, elle a accumulé les scandales et bad buzz ! Au point où l’on peut se demander comment le système pourrait être réformé pour tenir sa promesse initiale de contenus adaptés au jeune public.
[1] James BRIDLE, “Something wrong on the internet”, 2017 (https://medium.com/@jamesbridle/something-is-wrong-on-the-internet-c39c471271d2 )
[2] James B. CUTCHIN, “YouTube isn’t for kids. But kids videos are among its most popular, study finds”, Los Angeles Times, 25 juillet 2019, (https://www.latimes.com/business/story/2019-07-24/pew-study-youtube-children-content)
[3] “Google paye une amende record pour ne pas avoir protégé les données d’enfants sur YouTube”, Le Monde, 4 septembre 2019, (https://www.lemonde.fr/pixels/article/2019/09/04/google-paye-une-amende-record-pour-ne-pas-avoir-protege-les-donnees-d-enfants-sur-youtube_5506422_4408996.html)
[4] James BRIDLE, “Something wrong on the internet” , 2017 (https://medium.com/@jamesbridle/something-is-wrong-on-the-internet-c39c471271d2 )
[5] “YouTube Kids: Scandale après la découverte d’incitations au suicide cachées dans un dessin animé pour enfants”, 2019 (https://www.20minutes.fr/arts-stars/web/2461307-20190227-youtube-kids-scandale-apres-decouverte-incitations-suicide-cachees-dessin-anime-enfants)
Tanya Chen, “A Mom Found Almost A Dozen YouTube Kids Videos Showing Suicide, School Shootings, And Abuse”, BuzzFeedNews, 25 février 2019,(https://www.buzzfeednews.com/article/tanyachen/mom-discovered-youtube-kids-shows-school-shootings-violence)
[6] Fabien Soyez, “YouTube Kids : vidéos choquantes ou inappropriées, qu’est-ce qui cloche ?”, CNET France, 8 mars 2019 (https://www.cnetfrance.fr/news/youtube-kids-videos-choquantes-ou-inappropriees-qu-est-ce-qui-cloche-39881727.html)
[7] “Youtube Kids : propos pédophiles et contenus douteux”, France Soir, 2019 (https://www.franceinter.fr/info/sur-youtube-kids-commentaires-pedophiles-et-videos-deconseillees-aux-enfants)
“Contenus inappropriés, Youtube Kids dans une importante polémique”, Europe1, 2019 (https://www.europe1.fr/technologies/contenus-inappropries-youtube-kids-englue-dans-une-importante-polemique-3504002); Paméla ROUGERIE, “Youtube et les plus jeunes, la plateforme de tous les dangers”, Le Parisien, 2019 (https://www.leparisien.fr/societe/youtube-et-les-plus-jeunes-la-plateforme-de-tous-les-dangers-07-03-2019-8026623.php)
[8] Bruno LUS, “Les enfants, petites stars des chaînes familiales polémiques sur YouTube”, LEMONDE, 2018, (https://www.lemonde.fr/pixels/article/2018/05/24/les-enfants-petites-stars-des-chaines-familiales-polemiques-sur-youtube_5303731_4408996.html) Sébastien WESOLOWSKI, “YouTube est une machine à exploiter les enfants”,VICE, 2019 ,(https://www.vice.com/fr/article/vb9xv3/youtube-est-une-machine-a-exploiter-les-enfants)“Loi du 19 octobre 2020”, VIEPUBLIQUE, 2020(https://www.vie-publique.fr/loi/273385-loi-19-octobre-2020-travail-enfants-youtubeurs-influenceurs-sur-internet)
