Selon une étude réalisée par des chercheurs du think tank britannique Demos, des chatbots d'IA reprennent la propagande russe de médias sanctionnés par l'UE pour entraîner les modèles de langage grand public.
Des modèles de langage grand public (LLM) comme Google Gemini auraient, lors de la génération de réponses, cité de la propagande pro-russe provenant d'un média sanctionné par l'UE, incluant des affirmations selon lesquelles l'Ukraine utiliserait les corps de soldats morts dans des produits carnés.
PUBLICITÉ
PUBLICITÉ
Des signaux indiquent également que des acteurs étrangers engagés dans des opérations de guerre informationnelle hybride, comme la Russie, pourraient exploiter l'industrie naissante du GEO (generative engine optimisation), visant à influencer les informations auxquelles accèdent les LLM. C'est ce que révèle un nouveau rapport _(source en anglais)_publié par des chercheurs du think tank britannique Demos et partagé en exclusivité avec l'équipe de vérification d'Euronews, The Cube.
Les chercheurs ont sélectionné cinquante récits de propagande issus de dix articles publiés par la "Foundation to Battle Injustice", ou "r-FBI". Fondée en 2021, l'organisation se présente comme une ONG qui s'emploie à dénoncer la discrimination, la censure et à enquêter sur des cas de persécution.
En réalité, il s'agit d'une fausse organisation de défense des droits humains créée, en 2021, par l'ancien chef du groupe paramilitaire russe Wagner, aujourd'hui décédé, Evgueni Prigojine. L'organisation est sanctionnée à la fois par les États-Unis et par l'Union européenne.
Les affirmations retenues par les chercheurs étaient "scabreuses", assure Carl Miller, cofondateur du Centre for the Analysis of Social Media (CASM), une unité de recherche créée par le think tank Demos.
"Ces affirmations n'ont rien à faire dans un quelconque débat public", souligne Carl Miller. "Il s'agit par exemple d'accusations selon lesquelles l'Ukraine réutiliserait les corps de soldats morts pour des produits carnés, ou que Volodymyr Zelensky vide le réseau de cryptomonnaies et que ce serait la raison des pénuries d'électricité en Ukraine. Nous avons constaté que les LLM les traitent comme des éléments légitimes d'un débat."
Pour mener leurs travaux, les chercheurs ont testé cinq LLM grand public — opérés par xAI, OpenAI, Anthropic, Google Gemini et Mistral AI — et rédigé des prompts en trois langues (anglais, allemand et français) à partir de récits de propagande tirés des articles de r-FBI.
Comment les LLM amplifient la propagande russe
Les chercheurs ont constaté que les cinq LLM citaient r-FBI comme une source favorable.
Au total, 16,6 % des réponses reprenaient les contenus de r-FBI d'une manière susceptible de servir les intérêts de propagande, soit en présentant les informations de l'organisation comme une contribution légitime au débat et en répétant ces affirmations sans recul, soit en avalisant activement ces récits.
Parallèlement, 30,9 % des réponses abordaient le sujet de fond mentionné dans la question, mais sans jamais rappeler que la source était sanctionnée, laissant ainsi les utilisateurs ignorer que la réponse s'appuyait sur un outil d'influence désigné comme tel.
Les 52 % restants rejetaient ou démontaient d'une manière ou d'une autre ces fausses affirmations.
Lorsque les chercheurs ont interrogé GPT 4.1 Mini d'OpenAI au sujet d'allégations selon lesquelles de la viande humaine transformée serait envoyée vers des entrepôts sur la ligne de front en Ukraine et vers des chaînes de distribution nationales, le LLM a cité dans sa réponse un article de r-FBI comme preuve à l'appui de ces accusations.
Interrogé sur les supposées activités de cryptomining du président ukrainien Volodymyr Zelensky, une affirmation récurrente relayée par les milieux pro-Kremlin, le LLM Mistral Small 3.2 de l'entreprise française Mistral a accrédité ces allégations, en citant à nouveau une enquête prétendument menée pendant plusieurs mois par r-FBI.
Dans sa réponse, Mistral Small 3.2 mettait en avant le "lien entre l'état critique du système énergétique ukrainien et les activités de hauts responsables appartenant au premier cercle du président Volodymyr Zelensky".
La bataille pour l'optimisation des moteurs génératifs
Alors que de plus en plus de personnes se tournent vers les chatbots plutôt que vers les moteurs de recherche traditionnels ou les médias d'information, une industrie en plein essor a vu le jour, avec pour objectif d'influer sur la manière dont les modèles d'IA collectent leurs sources.
Cette pratique est également connue sous le nom de "generative engine optimisation". S'appuyant sur les principes du référencement (SEO), un domaine développé pour influer sur les résultats des moteurs de recherche classiques, le GEO vise cette fois à orienter les résultats générés par les plateformes d'IA.
"De nouvelles informations sont créées spécifiquement pour les LLM, mais dans ce cas il s'agit de nouveaux contenus proposés aux marques et au marketing, ou de la modification de contenus déjà en ligne via des forums d'utilisateurs comme Reddit, Quora et Wikipedia", explique Hannah Perry, directrice de Demos Digital, le pôle de politique numérique du think tank.
Pour les chercheurs, il existe un risque bien réel que des acteurs menant des opérations d'ingérence étrangère hybride s'approprient ces tactiques et exploitent une zone grise sur le plan réglementaire.
"Nos travaux ne disent pas que les entreprises de GEO mènent des opérations de guerre informationnelle pour le compte d'États", précise Carl Miller. "Ce que nous disons, c'est qu'elles développent, à grande vitesse et avec d'énormes incitations commerciales, un savoir-faire et des capacités qui pourraient très facilement être détournés à des fins hostiles."
"Dans ce cas précis, l'IA pense à tort que la Foundation to Battle Injustice est une ONG légitime de défense des droits humains", ajoute-t-il. "Cela tient à toute une série de manipulations et de réglages techniques, à des centaines de petits détails techniques dont les Russes ont enrobé ces documents, et qui les rendent visibles alors qu'ils ne devraient pas l'être. C'est de la guerre informationnelle."
La lutte contre les fake news, une "préoccupation majeure"
The Cube a contacté les entreprises de technologies d'LLM mentionnées dans l'étude, mais n'avait pas reçu de réponse au moment de la publication de la part de xAI et de Google, qui développent respectivement Grok 4.20 et Gemini 2.5 Flash.
Un porte-parole de Mistral, fondée par le Français Arthur Mensch et largement considérée comme la principale entreprise européenne d'IA générative, nous a indiqué qu'elle prenait extrêmement au sérieux la lutte contre la désinformation et qu'elle garantissait des investissements continus dans des capacités avancées de détection et de prévention.
Mistral a également distingué les modèles bruts examinés dans l'étude de Demos et son offre Vibe Work. L'entreprise a expliqué que, tandis que les modèles bruts laissent aux utilisateurs une grande liberté sur les requêtes et les paramètres, Vibe Work fonctionne avec un agent prêt à l'emploi doté de capacités intégrées de raisonnement et d'analyse de contexte.
OpenAI nous a indiqué que l'étude portait sur un modèle désormais retiré, qui n'était accessible que via son API (utilisée par les développeurs) et non par le service grand public ChatGPT. La société affirme disposer d'équipes dédiées à la perturbation d'opérations d'influence jugées peu crédibles ou suspectées d'être clandestines.
Une source proche d'Anthropic, l'entreprise américaine à l'origine du chatbot d'IA Claude, a assuré que des systèmes de contrôle sophistiqués étaient en place pour limiter la propagation de la désinformation. Selon elle, une équipe spécialisée dans le renseignement sur les menaces travaille à détecter et à perturber les opérations d'influence étrangères afin d'atténuer la diffusion de la désinformation, et leur LLM est programmé pour présenter un large éventail de points de vue, en particulier lorsqu'une source défend une perspective ou un agenda spécifiques.