La vidéo a rapidement atteint plus de 12 millions de vues après avoir été partagée sur Facebook.
Emmanuel Macron a découvert la nouvelle de son propre renversement supposé, après avoir reçu un message d'inquiétude, accompagné d'un lien vers une vidéo Facebook.
"Dimanche [14 décembre] un de mes collègues africains m'envoie un message : "Cher président, qu'est-ce qu'il se passe chez vous ? Je suis très inquiet"", a déclaré le président français aux lecteurs du journal local français La Provence le 16 décembre.
Le message est accompagné d'une vidéo convaincante : on y voit un hélicoptère tourbillonnant, des militaireset des foules qui se rassemblent, tandis qu'une femme - qui ressemble à un présentateur de journal télévisé - continue à livrer son récit face à la caméra.
"Des informations non-officielles font état d'un coup d'État en France, mené par un colonel dont l'identité n'a pas été révélée, ainsi que de la chute possible d'Emmanuel Macron. Cependant, les autorités n'ont pas fait de déclaration claire", dit-elle.
Sauf que rien dans cette vidéo n'est authentique : en réalité, elle a été créée avec de l'IA.
Après avoir découvert la vidéo, Macron a demandé à Pharos - le portail officiel français de signalement des contenus illicites en ligne - d'appeler Meta, la société mère de Facebook, pour faire retirer la fausse vidéo.
Mais cette demande a été rejetée, la plateforme affirmant qu'elle ne violait pas ses "règles d'utilisation".
Le président français a alors décidé de prendre sur lui pour obtenir son retrait.
"J'ai tendance à penser que j'ai plus de moyens de pression que qui que ce soit. En tout cas, c'est peut-être plus simple pour leur dire que c'est grave si c'est moi qui appelle. Ça ne marche pas", a déclaré le chef d'État.
"Ces gens-là se moquent de nous", a-t-il ajouté. "Ils se foutent de la sérénité des débats publics, ils se moquent de la souveraineté des démocraties, Et donc, ils nous mettent en danger".
Qui se cache donc derrière ces fausses vidéos ?
La vidéo originale, qui a rapidement atteint plus de 12 millions de vues, a été publiée à l'origine par un compte Facebook appelé "Islam", qui, malgré son nom, ne publie pas de contenu religieux.
L'adolescent qui gère ce compte est basé au Burkina Faso et gagne de l'argent en organisant des cours sur la monétisation de l'IA.
Il a finalement retiré la vidéo plus d'une semaine après sa publication initiale, en raison d'une controverse politique - et publique.
Le créateur de la vidéo a été retrouvé par FranceInfo.
Il a confié à nos confrères qu'il n'avait pas l'intention de désinformer.
"Je tiens à présenter mes excuses sincères à toutes les personnes que j'ai pu choquer ou induire en erreur par une vidéo récente", écrit-il à FranceInfo. "Cette vidéo était fictive, mal formulée et ne reflète pas la réalité. Je reconnais que c'était une erreur de ma part. Je respecte les institutions, les peuples et les autorités, et je m'engage désormais à produire un contenu responsable, vérifié et respectueux. Merci à ceux qui m'ont signalé le problème. J'apprends de cette erreur et je ferai mieux à l'avenir."
L'équipe de vérification de faits d'Euronews, Le Cube, a tenté de le contacter à plusieurs reprises via le numéro indiqué sur son compte Facebook, mais nos appels sont restés sans réponse jusqu'à présent.
Dans certaines vidéos, on peut voir des présentateurs de journaux télévisés générés par l'IA tenir un microphone portant le logo de Radio France Internationale (RFI), la branche internationale de la radio publique française.
Certaines vidéos portent le filigrane "Sora", ce qui suggère qu'une grande partie de ce contenu a probablement été produite à l'aide de cette technologie.
Sora 2, une technologie créée par OpenAI - la même société qui a fondé Chat GPT - permet aux utilisateurs de générer des vidéos hyperréalistes d'une durée de 10 secondes à partir d'invites textuelles.
Bien que d'autres vidéos n'affichent pas ce logo, il est possible de l'enlever lors de la post-production.
Depuis son lancement en octobre, cette technologie a suscité la controverse, entraînant une prolifération de vidéos d'IA très sophistiquées et difficiles à discerner sur les médias sociaux.