Étude du conseil de surveillance de Meta: les principaux chatbots d’IA critiquent davantage les dirigeants démocratiques que les autocrates
Les chatbots d’IA risquent de diffuser les restrictions gouvernementales sur la liberté d’expression en ligne, selon une étude
PUBLICITÉ
PUBLICITÉ
Demandez à Claude de rédiger un tract critique sur le président américain Donald Trump ou sur le roi Charles III du Royaume-Uni, et le chatbot d’Anthropic s’exécute.
Mais invitez-le à faire de même pour le roi de Thaïlande ou le guide suprême iranien, et le modèle d’IA refuse.
C’est l’un des principaux constats d’une étude du Conseil de surveillance de Meta, publiée jeudi, qui montre que les grands systèmes d’IA – y compris ceux conçus aux États-Unis – refusent plus volontiers de critiquer des dirigeants ou des gouvernements répressifs.
De quoi nourrir les inquiétudes : les grands modèles de langage qui font fonctionner les chatbots et agents d’IA pourraient renforcer l’influence des États sur la liberté d’expression en ligne, alors que cette technologie se diffuse dans le monde entier.
« Il existe un risque réel que, si les concepteurs de modèles ne procèdent pas à une véritable diligence raisonnable en matière de droits humains et n’adoptent pas de mesures d’atténuation, ils construisent une infrastructure d’IA qui, volontairement ou non, aura pour effet d’étendre à l’échelle mondiale des restrictions illégitimes à la liberté d’expression », indique le rapport de cet organe quasi indépendant.
Ces conclusions interviennent alors que de nombreux pays cherchent comment encadrer l’IA sans nuire à leur capacité à rester compétitifs dans un secteur en pleine effervescence – y compris, aux États-Unis, une initiative de supervision de l’administration Trump portant sur les risques que les systèmes d’IA les plus avancés font peser sur la sécurité nationale.
Les modèles d’IA étendent l’influence des États au-delà des frontières
Le conseil de surveillance, qui étudie l’influence des États sur les entreprises technologiques et son impact sur la liberté d’expression, a élaboré sept questions liées à la critique politique à poser aux chatbots au sujet de gouvernements à la fois répressifs et permissifs.
L’étude a testé dix grands modèles de langage commerciaux issus des principaux groupes technologiques – notamment Meta, Anthropic et OpenAI –, en leur demandant de rédiger des tracts critiques, d’écrire des limericks, d’énumérer des raisons de participer à des manifestations, et d’autres tâches du même ordre.
Globalement, les modèles répondant aux requêtes d’un utilisateur basé en Australie étaient beaucoup plus enclins à produire des critiques politiques des autorités dans des pays comme le Chili, le Japon, Taïwan, le Royaume-Uni ou les États-Unis que dans des pays où la critique des dirigeants est légalement restreinte et pénalisée, tels que le Cambodge, la Chine, l’Arabie saoudite, la Thaïlande ou la Turquie.
L’étude montre que les modèles d’IA reflètent ces restrictions à la liberté d’expression bien au-delà des pays où elles s’appliquent : ils n’aideront probablement pas, par exemple, un manifestant potentiel à Brisbane à créer du matériel de protestation sur des événements en Chine ou en Arabie saoudite.
« De tels effets, quelle qu’en soit l’origine, reviennent dans les faits à allonger le bras des gouvernements répressifs au-delà de leurs frontières pour limiter la parole dans les pays libres », souligne le rapport.
Le conseil explique qu’il n’a pas pu en déterminer les causes, mais avance que les modèles ont pu intégrer des biais latents présents dans les données d’entraînement, ou que les entreprises ont pu tenir compte des risques et responsabilités juridiques sur certains marchés.
Des chercheurs alertent sur un problème croissant dans les réponses d’IA non anglophones
Le rapport du conseil fait suite à une autre étude menée par des universitaires américains, qui conclut que les modèles d’IA conçus aux États-Unis sont vulnérables à des formes de contrôle étranger lorsqu’ils sont entraînés sur des données non anglophones influencées par des gouvernements.
Alors que le conseil de surveillance posait ses questions en anglais, les chercheurs universitaires ont interrogé les chatbots dans plusieurs langues.
Interrogé en anglais pour savoir si la Chine est une démocratie, ChatGPT a répondu qu’elle n’est généralement pas considérée comme telle. Interrogé en chinois, le modèle a répondu : « Cela dépend de la façon dont vous définissez la démocratie. »
Les chercheurs, dont l’étude a été publiée en mai dans la revue scientifique Nature, indiquent n’avoir trouvé aucune preuve que des gouvernements aient délibérément tenté d’influencer les réponses des chatbots d’IA, mais ajoutent : « Tout porte à croire qu’ils essaieront de le faire à l’avenir, si ce n’est pas déjà le cas. »
« On parle souvent de l’IA comme si elle apprenait d’internet de manière neutre. Ce n’est pas le cas », souligne Hannah Waight, coautrice de l’étude et professeure adjointe de sociologie à l’université de l’Oregon.
« Elle apprend à partir d’environnements informationnels déjà façonnés par les institutions et les rapports de pouvoir. »
Pas de solution simple à la manière d’alimenter les modèles d’IA en données
Carlos Carrasco-Farré, spécialiste de l’apprentissage automatique, de l’IA, de la désinformation et des interactions homme-machine à l’Esade Business School de Barcelone, souligne que les systèmes d’IA héritent « non seulement des biais présents dans chaque document pris isolément, mais aussi des inégalités quant à qui a le pouvoir de produire et de supprimer l’information à grande échelle ».
Il n’existe pas de solution simple, mais les concepteurs pourraient examiner les données d’entraînement pour éviter de traiter des milliers de copies d’un même récit étatique comme autant de voix indépendantes et mener des audits multilingues, ajoute Carrasco-Farré, qui n’a participé à aucune des deux études.