Loi européenne sur l'IA : les deepfakes et contenus générés doivent être signalés, mais les experts alertent sur des failles techniques et l'absence de normes communes.
À partir de ce dimanche, les entreprises spécialisées dans l’IA seront soumises à de nouvelles obligations prévues par l’AI Act de l’UE, qui leur impose de rendre les deepfakes et autres contenus générés par IA clairement identifiables comme artificiels.
PUBLICITÉ
PUBLICITÉ
Mais des défis techniques font planer le doute sur l’efficacité réelle de ces règles.
Il y a deux ans, l’UE a adopté un ensemble ambitieux de règles pour encadrer l’intelligence artificielle et a créé un Office de l’IA chargé de superviser la mise en œuvre de cette législation phare.
Parmi ses nombreuses dispositions, l’AI Act instaure les premiers régimes de transparence au monde pour les médias synthétiques, obligeant les fournisseurs de systèmes d’IA générative comme Claude d’Anthropic ou ChatGPT d’OpenAI à garantir que les contenus générés ou manipulés artificiellement puissent être détectés comme tels.
Les règles sont plus strictes pour les deepfakes, ces images, sons ou vidéos réalistes générés ou retouchés par IA qui imitent l’apparence, la voix ou les actions d’une personne réelle au point de laisser croire qu’elle a dit ou fait quelque chose qui n’a jamais eu lieu.
De la satire à la manipulation
Comme toute technologie, l’IA peut servir à des usages créatifs comme à des usages nuisibles.
Bruxelles reconnaît que tout contenu synthétique n’est pas trompeur : les créations à visée clairement artistique, créative, satirique ou fictionnelle échappent en principe aux obligations de transparence liées aux deepfakes.
Un exemple emblématique est apparu en 2023, lorsqu’une image générée par IA montrant le pape François vêtu d’une doudoune blanche très tendance est devenue virale dans le monde entier. L’image était fausse, mais elle a été largement perçue comme une plaisanterie.
La même technologie peut toutefois être détournée à des fins bien plus néfastes.
En 2024, la star planétaire Taylor Swift a été la cible d’une vague d’images explicites générées par IA, diffusées en ligne sans son consentement, relançant le débat sur les risques liés aux médias synthétiques.
Les deepfakes se sont aussi imposés comme un instrument de manipulation politique.
En 2022, peu après le lancement par la Russie de son invasion à grande échelle de l’Ukraine, une fausse vidéo est apparue montrant le président ukrainien Volodymyr Zelensky appelant les soldats à se rendre. Elle a été rapidement démontée, mais a montré comment les contenus synthétiques pouvaient être utilisés comme arme en temps de guerre.
La crainte est que des contenus générés par IA toujours plus réalistes, amplifiés par les plateformes de réseaux sociaux, ne rendent plus difficile pour les citoyens de distinguer l’information authentique des contenus fabriqués.
Réguler les deepfakes
Pour relever ce défi, la Commission européenne a élaboré un code de bonnes pratiques volontaire servant de cadre pour indiquer comment les entreprises doivent signaler l’origine artificielle des contenus synthétiques, au moyen de marquages lisibles par machine ainsi que de labels visibles pour les deepfakes.
L’idée est simple : les gens doivent savoir quand ils regardent un contenu généré ou modifié par l’IA. C’est pourquoi les règles s’appliquent à la fois aux entreprises qui développent la technologie et à celles qui utilisent l’IA dans un cadre professionnel, les usages personnels étant exclus du champ d’application.
Ce code de bonnes pratiques ne se limite pas au marquage, il couvre aussi le mécanisme de détection associé, qui suppose une coopération de l’ensemble des acteurs concernés : entreprises d’IA, plateformes de réseaux sociaux, organisations de la société civile et vérificateurs de faits.
La question la plus délicate est de savoir si la technologie peut réellement tenir cette promesse.
Une règle, de nombreux obstacles
Le premier défi est géographique. L’UE peut réglementer les entreprises qui opèrent sur le marché européen ou le ciblent, mais les contenus en ligne ne s’arrêtent pas aux frontières. Un deepfake créé hors d’Europe peut tout de même atteindre des millions d’utilisateurs européens en quelques minutes.
Le deuxième défi tient au degré de maturité technique. Les grands groupes de l’IA comme OpenAI et Google soutiennent globalement les exigences de transparence et ont signé le code de bonnes pratiques de la Commission. Mais ils avertissent aussi que les technologies de détection et de marquage restent une cible mouvante.
Il n’existe actuellement aucune solution unique à l’échelle du secteur. Les entreprises expérimentent différentes approches – filigranes numériques (watermarking), métadonnées, systèmes de traçabilité des contenus – qui ne sont pas toujours compatibles ni interopérables.
Troisième défi : les traces numériques sont fragiles. Des experts alertent sur le fait que les filigranes peuvent être retirés, altérés ou perdus lorsque le contenu est édité, compressé ou partagé d’une plateforme à l’autre. Retracer tout l’historique d’une image ou d’une vidéo générée par IA à travers de multiples modifications peut s’avérer extrêmement difficile.
En raison de ces limites, des chercheurs estiment qu’aucune technologie isolée ne suffira. Les entreprises devront probablement adopter une approche en couches multiples combinant plusieurs méthodes.
"Un ensemble de solutions est plus efficace que toute mesure isolée. Il est donc recommandé de mettre en œuvre plusieurs couches de marquage et de détection pour les contenus générés par IA", conclut l'étude technique (source en anglais) de la Commission européenne sur le sujet.
Garder le rythme
L’UE a pris une longueur d’avance pour s’attaquer à l’un des grands défis de l’ère de l’IA : un monde où les contenus synthétiques sont de plus en plus difficiles à distinguer de la réalité.
Mais la capacité de Bruxelles à suivre le rythme d’une technologie qui évolue à une vitesse vertigineuse déterminera si les règles de transparence de l’AI Act deviennent une véritable protection, ou simplement une étiquette apposée sur un problème qui continue de lui échapper.