Ces images ultra réalistes, créées par des intelligences artificielles de plus en plus accessibles pour le public, posent de nouveaux défis à la lutte contre la désinformation.
PUBLICITÉNon, Emmanuel Macron n'est pas descendu dans la rue se frotter aux manifestants.
Alors que les actions de contestation contre la réforme des retraites se poursuivent un peu partout en France depuis l'adoption du texte après un recours controversé à l'article 49.3, des photos montrant le chef de l'État se mêlant à la foule, interpellé par la police ou encore habillé en éboueur ou en CRS ont fait irruption sur les réseaux sociaux. Ces images, ultra réalistes, sont évidemment fausses. Elles ont été générées par des outils, nommés Midjourney ou Dall-E, qui placent les capacités de l'intelligence artificielle à la portée du grand public.
La dernière version (la cinquième) a été mise à disposition le 16 mars en bêta ouverte c'est à dire : ouverte à toute personne intéressée par l'utilisation du produit, et l'évolution est de premier ordre. Et comme il suffit d'une phrase pour créer une image, les internautes ont naturellement sauté sur l'occasion pour la maintenir d'actualité et se défouler en suscitant des images reflétant le contexte actuel en France.
C'est ainsi que l'on peut croiser sur les réseaux sociaux des images d'Emmanuel Macron assis sur des tas d'ordures, en homme poubelle ou manifestant contre sa propre réforme des retraites.
Jugez par vous-même.
Les utilisateurs l'ont également utilisé pour commenter l'actualité aux États-Unis, avec des images circulant en ligne de l'arrestation de Donald Trump. Depuis que l'ancien président a averti qu'il s'attendait à être inculpé cette semaine, dans l'affaire d'un pot-de-vin versé avec les fonds de campagne en 2016 à la star du porno Stormy Daniels, les internautes rêvent de ce qui pourrait être...
Grâce à l'IA, les rêves les plus fous deviennent réalité...
Les résultats sont vraiment impressionnants et inquiétants.
En effet, malgré l'humour inhérent qui dénonce ces images absurdes qui ne peuvent évidemment pas prétendre être la réalité, les progrès que les outils d'IA se font à pas de géant, et soulignent une fois de plus que si ces deepfakes semblent aussi convaincants, la technologie peut être utilisée pour répandre des désinformations.
Ce n'est que récemment que plusieurs rapports ont été publiés sur la Federal Trade Commission des États-Unis avertissant les consommateurs de se méfier de la montée en puissance d'outils alimentés par l'IA comme ChatGPT, Vall-E de Microsoft et plus particulièrement l'application de clonage de voix par le logiciel vocal AI d'ElevenLabs, VoiceLab. Cette technologie peut cloner de manière convaincante des voix pour tromper les victimes en leur faisant croire que leurs proches ont des problèmes et ont besoin d'argent rapidement.
À ce stade, les rêves d'IA se transforment en cauchemars.