Une image générée par l'IA et circulant sur Facebook affirme que des villes allemandes ont installé des boîtes aux lettres robotisées équipées de systèmes d'IA capables de restituer automatiquement les objets perdus à leurs propriétaires. Le problème, c'est qu'il s'agit d'un système d'IA.
Un post sur Facebook a semé la confusion - et l'incrédulité - après avoir affirmé que des villes allemandes ont construit des "boîtes aux lettres robotisées élégantes" où les habitants peuvent envoyer des objets perdus, tels que des portefeuilles et des clés, que les machines rendront ensuite à leurs propriétaires d'origine.
"Une fois déposée à l'intérieur, la boîte aux lettres scanne le contenu à l'aide de caméras internes et de systèmes de reconnaissance d'objets entraînés par l'IA", peut-on lire dans le billet.
"Le système recoupe ensuite l'objet avec les bases de données d'adresses locales et déclenche un retour automatisé", poursuit-il. "Les articles sont emballés dans des enveloppes scellées et réacheminés par les réseaux postaux existants - et parviennent souvent au propriétaire dans les 48 heures.
De nombreux utilisateurs du courrier affirment que, bien qu'ils vivent dans de grandes villes allemandes, ils n'ont jamais rencontré de telles machines. C'est parce qu'elles n'existent pas.
Alors que l'Allemagne compte des centaines de boîtes aux lettres "objets trouvés", où les habitants et les visiteurs peuvent déposer des objets perdus - et les propriétaires peuvent espérer qu'ils leur soient rendus - rien ne prouve que les boîtes aux lettres soient équipées de la technologie permettant d'enregistrer le propriétaire de l'objet et de le contacter.
Il existe des portails en ligne à l'échelle nationale, où les gens peuvent signaler des objets perdus, mais ils ne mentionnent pas les boîtes aux lettres comme méthode légitime de retour des objets perdus.
Un examen plus approfondi de la photo révèle plusieurs indices indiquant qu'elle a été générée par une IA. Les panneaux sur les boîtes, dont une recherche d'images inversées montre qu'ils semblent s'inspirer des parcmètres, ne correspondent pas à ceux de chaque "boîte aux lettres".
En outre, le lettrage des magasins voisins ne correspond pas au lettrage réel, ce qui est un indice courant qu'une image ou une vidéo a été générée par l'IA.
En zoomant, on constate que la main de la femme passe à travers la boîte aux lettres et que les pieds de l'homme ne touchent pas le sol. On voit également ce qui semble être un portefeuille surdimensionné suspendu à l'un des points d'entrée de la machine, bien qu'aucune personne ne se tienne à côté.
Le compte Facebook qui a publié l'image, Fact 27, est répertorié comme étant basé en Inde et prolifère une variété de messages avec des photos qui diffusent des affirmations étranges.
Par exemple, une autre photo prétend que des opéras italiens ont transformé des loges en coulisses en auberges temporaires, alors qu'aucun rapport de média accessible au public ne le confirme.
Qu'est-ce que le "slop" de l'IA ?
Bien que plusieurs commentaires indiquent que les utilisateurs de réseaux sociaux ont cru à la possibilité de boîtes aux lettres d'échange de portefeuilles allemands, la majorité des messages publiés par Fact 27 entrent dans la catégorie des contenus "AI slop", c'est-à-dire des contenus numériques créés à l'aide d'une intelligence artificielle générative, de qualité médiocre et manifestement falsifiés.
Ce compte particulier promeut des concepts fantastiques sur différents pays, comme l'idée que la Finlande a des balcons qui tournent avec la lumière du soleil ou que l'Allemagne utilise les toits des boulangeries comme des terrasses pour dormir.
Ce type de contenu a proliféré à l'origine parce que les créateurs étaient incités à devenir viraux, soit pour avoir du poids, soit pour gagner de l'argent. Des images peu complexes et mal créées sont souvent devenues virales en ligne, permettant aux créateurs de gagner de l'argent avec un minimum de travail.
Au fil du temps, des rapports ont circulé sur la façon dont les mouvements politiques, de plus en plus l'extrême droite, ont utilisé ce type de contenu pour augmenter l'engagement sur les médias sociaux.
Ce phénomène a été constaté aux États-Unis, mais aussi en Europe, où l'Observatoire européen des médias numériques a signalé une augmentation du nombre de partis politiques de droite qui utilisent des vidéos générées par l'IA pour mobiliser les électeurs.
Meta n'exige pas d'étiquettes sur les images non rémunérées générées par l'IA
L'année dernière, l 'université de Stanford a examiné plus de 100 pages Facebook qui publient régulièrement du contenu généré par l'IA. Leurs recherches ont montré que les posts contenant des images générées par l'IA attiraient des centaines de millions d'engagements et figuraient parmi les contenus les plus regardés sur Facebook.
Les résultats de cette étude font écho aux commentaires formulés dans une interview réalisée en 2024 par Connor Hayes, alors vice-président du produit pour l'IA générative, qui a déclaré au Financial Times que l'entreprise s'attendait à ce que les systèmes d'IA "finissent par exister sur ses plateformes de la même manière que les comptes d'utilisateurs".
Meta appose une étiquette "AI Info" sur les contenus non rémunérés lorsque ses systèmes détectent qu'ils ont été créés à l'aide d'outils tiers. Les contenus modifiés par l'IA peuvent toujours afficher des informations sur la modification. Les utilisateurs eux-mêmes peuvent également ajouter une étiquette.
Selon Meta, les contenus non rémunérés sur Facebook, Instagram et Threads peuvent nécessiter un label IA lorsqu'ils contiennent des vidéos photoréalistes ou des sons réalistes. Par exemple, une bobine montrant des images très réalistes d'une ville, une chanson créée à l'aide d'une voix générée par l'IA, ou une bobine avec une voix off convaincante générée par l'IA.
Cette exigence ne s'applique toutefois pas aux images, qui ne sont généralement pas étiquetées à moins que le système Meta ne détecte des signaux indiquant qu'elles ont été modifiées à l'aide de l'IA.