Un personnage d'IA créé pour l'éducation a été transformé en un mème politique transfrontalier se propageant à travers l'Europe, largement associé à l'extrême droite et à des récits trompeurs.
Des personnages presque identiques générés par l'IA sont apparus sur X et Facebook dans toute l'Europe, véhiculant des messages anti-immigration et anti-gouvernementaux.
PUBLICITÉ
PUBLICITÉ
Des versions du même personnage ont été partagées en ligne, comme la néerlandophone "Emma", l'allemande "Maria" et l'irlandaise "Amelia".
Chaque personnage possède ses propres symboles nationaux et références politiques. En Allemagne, Maria porte un dirndl bavarois traditionnel et exprime son amour pour une "bière fraîche dans le pub de notre village". Elle affirme que son gouvernement ne la protège plus et appelle de "braves chevaliers" à défendre sa patrie contre les immigrés musulmans.
Aux Pays-Bas, une IA créée par Emma insiste sur le fait que Noël doit être célébré "de manière traditionnelle".
En Irlande, une version rousse du personnage qualifie le taoiseach, Micheál Martin, de "porte-parole de Bruxelles". Bruxelles, insiste-t-elle, oblige l'Irlande à avoir des "frontières ouvertes", bien que l'Irlande ne fasse pas partie de l'espace Schengen.
Individuellement, ces vidéos ont attiré des milliers de vues et d'interactions, en particulier sur X.
Ces imitations remontent à la version la plus connue, qui a vu le jour en premier lieu au Royaume-Uni. C'est là qu'Amelia, une écolière générée par l'IA et aux cheveux violets, est devenue virale, son premier message viral ayant été vu plus de 1,4 million de fois.
Des versions du personnage sont apparues sur Facebook, Instagram, X et Telegram : Amelia apparaît dans des bandes dessinées manga et aux côtés de Harry Potter et de la famille royale dans des images générées numériquement, encourageant les résidents britanniques à "reprendre leur pays" face à une immigration musulmane incontrôlée et à un gouvernement incompétent.
Les origines improbables d'Amelia
L'organisation qui a créé le personnage à l'origine des mèmes viraux affirme qu'une grande partie de l'histoire en ligne entourant Amelia est trompeuse.
Une première version d'Amelia est apparue dans Pathways, un jeu éducatif développé par l'entreprise sociale britannique Shout Out UK en partenariat avec les autorités locales de Hull et de l'East Riding of Yorkshire. Le projet a été financé par le ministère de l'intérieur britannique dans le cadre d'un programme de prévention contre l'extrémisme.
Le jeu demande aux élèves de choisir un personnage qui est ensuite placé dans divers scénarios en ligne, où il leur est demandé de faire des choix sur la façon de répondre aux messages et aux diverses formes de pression des pairs.
Matteo Bergamini, PDG de Shout Out UK, a déclaré à l'équipe de vérification des faits d'Euronews, Le Cube, que le jeu a été développé dans le contexte de 2023, lorsque les autorités locales de Hull et du Yorkshire ont constaté que la radicalisation était la plus risquée en ligne, en particulier pour les enfants âgés de 13 à 18 ans.
"La menace provenait principalement de l'écosystème émergent de l'extrême droite en ligne", a déclaré M. Bergamini, ajoutant que le jeu lui-même était ciblé et limité à ces régions du Royaume-Uni.
Le jeu n'était pas destiné à être joué de manière isolée et faisait partie d'un ensemble d'apprentissage plus large conçu pour permettre aux enseignants d'animer des discussions nuancées sur les comportements dangereux par rapport aux comportements sûrs, a-t-il ajouté.
Dans le jeu, Amelia n'est pas un protagoniste ou un modèle, mais un personnage mineur qui encourage le personnage principal à adopter un comportement risqué en ligne.
En outre, le jeu ne suggère pas, contrairement aux affirmations en ligne, qu'un enseignant renvoie un enfant à Prevent, un programme du gouvernement britannique, pour s'interroger sur les migrations de masse.
Il semble que le mème Amelia soit né dans les milieux d'extrême droite en réaction à ce qu'ils considèrent comme une caricature critiquant leurs opinions contre l'immigration et l'"État-nounou".
Le Cube a contacté certains créateurs du mème, qui n'ont pas répondu à temps pour la publication.
Versions extrêmes et monétisation
La majorité des mèmes Amelia, en particulier sur les plateformes grand public telles que X, sont relativement inoffensifs. Ils ne devraient pas être retirés en vertu des règles de la loi sur les services numériques (Digital Services Act, DSA).
La loi sur les services numériques impose aux plateformes de supprimer les contenus illégaux tels que les discours haineux, le terrorisme et les contenus liés à l'exploitation sexuelle des enfants, ainsi que certains types de publicité préjudiciable.
Mais les chercheurs qui ont suivi l'ascension rapide d'Amelia affirment que des versions extrêmes du personnage existent dans des communautés en ligne de niche et sur des applications telles que Telegram.
Siddharth Venkataramakrishnan, analyste à l'Institute for Strategic Dialogue (ISD), un groupe de réflexion basé à Londres, a déclaré que le mème a été repris par un large éventail de communautés en ligne, depuis celles qui l'utilisent de manière ironique jusqu'à certains des plus grands comptes anti-migrants.
Si toutes les versions du personnage ne contiennent pas de discours haineux, certaines utilisent une imagerie déshumanisante et violente ciblant des communautés spécifiques.
Shout Out UK affirme que son personnage a été "mimétisé et sexualisé" en ligne par des acteurs de droite, beaucoup l'associant à des propos racistes et antisémites, à des tropes nazis et d'extrême droite.
Selon l'organisation, la campagne a dépassé les frontières de l'internet et a conduit à l'envoi de menaces et de messages malveillants aux membres de son personnel.
Amelia est également devenu un vecteur de monétisation. La DSI a identifié des comptes promouvant des pièces de monnaie sur le thème d'Amelia, une tendance courante dans les mouvements viraux des médias sociaux.
Dans ce contexte, Mme Venkataramakrishnan estime qu'il est difficile de savoir quels sont les comptes qui publient des mèmes Amelia pour leur message politique et quels sont ceux qui les diffusent pour des raisons de rentabilité.
"Où se situe la limite entre le soutien à quelque chose pour des raisons idéologiques et le soutien à quelque chose pour gagner de l'argent ?
Les mèmes chargés d'émotion sont également plus susceptibles de gagner du terrain sur les médias sociaux une fois que l'engagement commence à se développer, a expliqué M. Venkataramakrishnan, un effet qui aurait poussé les mèmes Amelia à se répandre rapidement.