Une multitude de vidéos de manifestations en Europe générées par l'IA est apparue sur TikTok ; selon des experts, elles visent à "amplifier la polarisation sociale".
Une série de vidéos générées par IA montrant des milliers de personnes manifestant dans plusieurs villes européennes contre l'immigration, la situation du pays, le gouvernement en place ou pour des valeurs nationalistes circule sur TikTok.
PUBLICITÉ
PUBLICITÉ
Les vidéos analysées ont été mises en ligne au cours des quatre derniers mois, certaines dépassant les 300 000 vues.
The Cube, l'équipe de vérification des faits d'Euronews, a repéré ce type de contenus visant des utilisateurs au Portugal, en France, en Allemagne, en Irlande, en Italie et au Royaume-Uni, dont beaucoup semblent croire à ce que montrent ces vidéos.
Pourtant, aucune des manifestations montrées dans ces vidéos n'est réelle, même si elles utilisent des procédés destinés à tromper les internautes.
D'abord, beaucoup de ces vidéos se font passer pour des médias d'information légitimes.
L'une d'elles, par exemple, semble montrer une journaliste portugaise travaillant pour la chaîne publique RTP, comme le laisse penser le logo sur son micro, tandis que les habillages intégrés à la vidéo rappellent ceux de la chaîne de télévision privée SIC Notícias.
Le lieu présenté est lui aussi erroné : dans la réalité, le Tage coule à l'endroit où est censé se trouver le bâtiment devant lequel elle apparaît.
The Cube a également contacté RTP, qui nous a indiqué que la journaliste apparaissant dans la vidéo générée par IA ne travaillait pas pour la chaîne et qu'elle n'avait strictement aucun lien avec cette vidéo diffusée sur TikTok.
Malgré les motifs flous de ces prétendues manifestations, par exemple celles qui expriment la colère face à "l'état du pays", certains messages contenus dans les vidéos font écho aux partis d'extrême droite. C'est le cas de certaines vidéos en allemand examinées par l'équipe de The Cube, qui comportent des légendes de soutien au parti Alternative pour l'Allemagne (AfD).
Certaines comprennent aussi des commentaires d'utilisateurs de TikTok qui évoquent ces partis, les appelant à intervenir pour régler des problèmes comme la migration. Parmi les personnalités citées figurent André Ventura, du parti portugais d'extrême droite Chega, le Rassemblement national en France et l'Allemande Alice Weidel, de l'AfD.
La plupart des vidéos se terminent en demandant au public de réagir, en partageant son avis sur les manifestations ou en indiquant le nom de la ville d'où il regarde.
Selon les experts, l'objectif principal de cette production de masse est de manipuler la perception du public et d'amplifier les fractures de la société en Europe, ce qui fait peser de sérieux risques sur le débat démocratique.
"Les publics interagissent avec ces vidéos surtout parce que les images synthétiques se greffent directement sur des angoisses politiques et des ressentiments culturels déjà existants", a expliqué à The Cube Bruna Martins dos Santos de WITNESS, une organisation mondiale qui examine l'impact des technologies émergentes, en particulier l'IA générative et les deepfakes.
Des méthodes de désinformation bien connues
Toutes ces vidéos recourent à trois procédés de désinformation courants : un langage émotionnel, des contenus générés par IA et la polarisation.
La plupart de ces procédés servent d'appât à engagement, selon Martins dos Santos.
"Des sujets comme l'immigration, le nationalisme et le déclin de la société suscitent des réactions émotionnelles fortes", a-t-elle poursuivi. "Cet effet est particulièrement marqué sur les plateformes de vidéos courtes, où l'impact visuel et la charge émotionnelle priment sur le contexte, ce qui fait que les internautes réagissent d'abord au spectacle — la taille de la foule, les drapeaux, les slogans — bien avant de remettre en question l'authenticité de la scène."
En outre, les algorithmes de recommandation des réseaux sociaux renforcent cette dynamique en poussant des contenus visuels provocateurs vers les utilisateurs les plus susceptibles d'y être sensibles.
Le recours à l'IA pour produire ces contenus les rend bon marché et facilement multipliables, ce qui permet de doper les vues, le nombre d'abonnés et les indicateurs d'interaction, a ajouté Martins dos Santos.
Pourquoi ce type de contenu est-il accessible ?
TikTok a lui-même étiqueté ces vidéos comme étant générées par IA. La plateforme affirme interdire les contenus générés par IA qui sont "trompeurs sur des questions d'importance publique" ou qui enfreignent ses règles contre la désinformation.
Elle va même plus loin : "Les contenus non étiquetés peuvent être supprimés, restreints ou faire l'objet d'une mention par nos équipes, selon le niveau de préjudice qu'ils peuvent causer".
Certaines vidéos, toutefois, semblent passer entre les mailles du filet.
"Le fait que ces vidéos restent en ligne peut signifier une infraction aux propres règles de TikTok, mais met aussi en lumière les limites des outils de détection de la plateforme", estime Martins dos Santos.
Par ailleurs, en vertu du règlement européen sur les services numériques (Digital Services Act),la plateforme doit aussi prendre des mesures efficaces contre les contenus susceptibles de nuire "au débat civique et aux processus électoraux".
Martins dos Santos ajoute : "Si la présence durable de ces vidéos ne prouve pas automatiquement une violation des règles, elle soulève des questions cruciales sur l'efficacité des mécanismes de détection, des critères d'étiquetage et des algorithmes de recommandation de TikTok".
TikTok n'a pas répondu dans l'immédiat à nos demandes de commentaire.
De vraies manifestations secouent l'Europe ces dernières semaines
Alors que les vidéos générées par IA montrent des manifestations fictives qui n'ont jamais eu lieu, de nombreuses mobilisations ont, elles, réellement agité l'Europe ces dernières semaines sur une série de sujets.
Les plus médiatisées sont sans doute les manifestations en Espagne en réaction à la crise de Ceuta, au cours de laquelle environ 80 000 personnes ont franchi la frontière entre le Maroc et l'enclave espagnole de Ceuta en Afrique du Nord.
La majorité de ces migrants est depuis repartie, mais on estime qu'ils seraient jusqu'à 13 000 à se trouver encore à Ceuta, ce qui a déclenché des protestations contre la manière dont le gouvernement a géré la crise.
En Allemagne, des manifestations ont éclaté contre l'AfD après la victoire écrasante du parti lors d'une élection régionale début septembre.
En Suisse, des milliers de personnes ont, de leur côté, récemment défilé pour dénoncer l'inaction du gouvernement face au réchauffement climatique.