Il pourrait s'agir du premier cas où une image générée par l'IA sème suffisamment de confusion pour faire bouger les marchés boursiers.
PUBLICITÉUne fausse image d'une explosion à côté du Pentagone s'est répandue sur les médias sociaux et a provoqué une brève baisse de la bourse américaine lundi.
L'image, aujourd'hui démentie, montrait un panache de fumée s'élevant à côté du siège du ministère américain de la défense. Les experts estiment qu'elle présente les caractéristiques d'une image générée par l'intelligence artificielle (IA) et qu'elle illustre la menace que représente la technologie en termes de désinformation.
L'image a été partagée par un certain nombre de comptes Twitter portant une coche bleue "vérifié", dont un se faisant passer pour l'agence de presse Bloomberg - appelé "@BloombergFeed" - qui a depuis été suspendu.
La fausse nouvelle a ensuite été diffusée par des dizaines d'autres comptes Twitter, dont le réseau d'information contrôlé par l'État russe RT, qui a été bloqué dans l'UE mais compte plus de 3 millions d'adeptes sur la plateforme.
Un certain nombre de comptes qui ont tweeté la fausse image semblent être affiliés à des conspirations ou à la guerre de la Russie en Ukraine, ainsi qu'un certain nombre de comptes de crypto-monnaies avec des coches bleues.
L'un d'entre eux, "WhaleChart", a tweeté l'image accompagnée du texte : "BREAKING : Explosion près du Pentagone". Ce tweet avait été vu environ 600 000 fois un jour après sa publication.
La fausse nouvelle a été réfutée par le service d'incendie du comté d'Arlington, qui a déclaré : "L'agence de protection des forces du Pentagone et le service des pompiers du comté d'Arlington sont au courant d'une information diffusée sur les réseaux sociaux concernant une explosion près du Pentagone. Il n'y a PAS d'explosion ou d'incident dans ou près de la réserve du Pentagone, et il n'y a pas de danger immédiat pour le public".
Mais plusieurs médias américains ont noté que Wall Street avait sensiblement baissé dans les instants qui ont suivi la diffusion de l'image sur Twitter. L'agence Bloomberg l'a même qualifiée de "peut-être le premier cas d'une image générée par l'IA qui fait bouger le marché".
Cet incident vient s'ajouter aux préoccupations croissantes concernant l'utilisation abusive potentielle d'outils d'IA pour propager des "fake news", déstabiliser des sociétés et même influencer les électeurs avant les élections.
Le chaos de la certification bleue de Twitter
Twitter a apporté des modifications controversées à son système de vérification sous la direction d'Elon Musk, qui a racheté la société pour 44 milliards de dollars (40,8 milliards d'euros) en octobre dernier.
Auparavant, les comptes jugés remarquables - parce qu'ils étaient des experts, des célébrités, des journalistes ou des organisations reconnus - pouvaient être vérifiés à l'aide d'un contrôle d'identité.
Dans le cadre de la nouvelle politique, n'importe qui peut obtenir une coche de vérification bleue en payant, et il n'est pas nécessaire de fournir une preuve d'identification.
Ce changement a donné lieu à des avertissements selon lesquels l'usurpation d'identité pourrait devenir monnaie courante sur la plateforme - et il y a eu une forte augmentation.
Sous sa direction, M. Musk a déclaré que l'entreprise valait désormais moins de la moitié du prix auquel il l'avait achetée, à la suite d'une chute importante des recettes publicitaires et d'un certain nombre de procès intentés contre l'entreprise.
Twitter a répondu à une demande de commentaire envoyée par courriel par un émoji "caca".
Le génie sort de sa bouteille
La fausse image a été diffusée dans un contexte d'inquiétudes persistantes concernant l'IA générative et les dangers potentiels qu'elle pourrait poser.
Un sondage Reuters/Ipsos publié le 17 mai a montré que plus de deux tiers des Américains s'inquiètent des effets négatifs de l'IA, tandis que 61 % d'entre eux pensent qu'elle pourrait menacer la civilisation.
La semaine dernière, le PDG d'OpenAI, Sam Altman, a encouragé les responsables politiques à élaborer un système de réglementation de l'IA, lors d'une audition au cours de laquelle un sénateur, Cory Booker, a déclaré : "Il n'y a aucun moyen de mettre en place un système de réglementation de l'IA, il n'y a aucun moyen de remettre ce génie dans la bouteille. À l'échelle mondiale, l'IA est en train d'exploser".
PUBLICITÉL'Union européenne est en train de rédiger sa propre loi sur l'IA afin de réglementer cette technologie.