Une étude révèle que TikTok et YouTube diffusent des contenus répétitifs, violents et générés par IA pour enfants, entraînant un déclin cognitif.
Le "slop" d’IA, en particulier les vidéos de fruits animés générées par l’IA, contribue à un déclin cognitif important et à l’essor de tendances violentes chez les enfants, selon de nouvelles recherches.
PUBLICITÉ
PUBLICITÉ
Cette analyse, menée par le Global Network on Extremism and Technology (GNET), conclut que les vidéos de fruits animés générées par l’IA, aujourd’hui omniprésentes dans les fils des enfants à travers le monde, pourraient servir à diffuser clandestinement du "contenu violent et extrémiste".
Le "slop" d’IA désigne spécifiquement des contenus générés par l’IA produits en masse, extrêmement répétitifs et de mauvaise qualité, qui comportent généralement peu, voire pas du tout, d’intervention humaine. Ils ne visent généralement que les vues, les clics, l’engagement et les revenus publicitaires, et sont réalisés à très faible coût.
Ainsi, un seul créateur peut potentiellement produire des centaines de ces vidéos courtes, inondant plusieurs plateformes de quantités massives de contenus. Comme de nombreux réseaux sociaux valorisent l’activité continue et les publications fréquentes, cette stratégie se révèle extrêmement efficace pour toucher des millions d’enfants dans le monde.
Cela alimente un déclin cognitif, ou "brain rot", terme qui renvoie aux effets culturels et psychologiques liés à la consommation excessive de médias rapides, surstimulants et volontairement dénués de sens, souvent absurdes et conçus pour exploiter des habitudes comme le défilement sans fin et la quête de décharges de dopamine instantanées.
La montée en puissance d’applications bon marché, faciles à prendre en main et très pratiques comme PixVerse, VeoE.ai, Media.io ou Sora a également contribué à l’explosion de ce type de contenus générés par l’IA ces dernières années.
Comment le "slop" d’IA alimente la radicalisation en ligne
Le "slop" d’IA peut diffuser de manière discrète des contenus en ligne qui poussent à la radicalisation, via des vidéos qui paraissent d’abord inoffensives, absurdes ou même amusantes, comme des animations mettant en scène des fruits et des légumes.
Ce type de contenus s’appuie souvent sur des récits dramatiques mêlant romance, conflits domestiques, trahison et infidélité, entre autres intrigues portées par des fruits animés en apparence innocents. Ils peuvent mettre en scène une forte agressivité et une violence émotionnelle, et se révèlent extrêmement surstimulants pour des esprits impressionnables par leurs schémas narratifs.
Dans de nombreux cas, ces vidéos servent aussi à glorifier, célébrer et diffuser l’extrémisme violent et des attaques terroristes, en s’appuyant sur des formats accrocheurs qui surfent sur des tendances et des thèmes viraux en ligne.
Les vidéos gore de fruits et légumes générées par l’IA peuvent souvent montrer de la torture, des mutilations extrêmes et une violence hyperréaliste, qui contribuent à désensibiliser largement le public en se dissimulant derrière la familiarité de ces personnages animés.
Elles peuvent également représenter des assassinats, des événements faisant de nombreuses victimes et des meurtres brutaux, par exemple un fruit en tuant un autre avec une arme.
Dans de nombreux cas, ces vidéos présentent aussi des caractéristiques proches de celles d’organisations extrémistes qui défendent des idéologies d’ultradroite, nihilistes ou violentes, ainsi que de cartels criminels.
Par exemple, un personnage populaire, Carrot Khalifah, est souvent montré en train de dire à une armée dans une vidéo que "l’État Carotte se relèvera", une formule qui fait écho à l’idéologie et à la propagande bien connues de l’organisation État islamique (EI).
Si des plateformes comme TikTok disposent de règles pour empêcher la diffusion de contenus extrêmement violents, celles-ci sont loin d’être infaillibles, les générateurs d’IA pouvant contourner ces garde-fous et se dissimuler derrière des contenus en apparence innocents.