Le chatbot IA Grok d’Elon Musk est scruté dans l’UE, le Royaume-Uni, l’Inde et la France, après un détournement pour générer des images sexuelles non consenties.
La Malaisie et l'Indonésie ont bloqué Grok, le chatbot d'intelligence artificielle (IA) développé par xAI, la société d'Elon Musk, après que les autorités ont indiqué qu'il était détourné pour générer des images sexuellement explicites et non consensuelles.
Ces pays sont les premiers à interdire cet outil d'IA générative, reflet d'une inquiétude croissante dans le monde face à des systèmes capables de produire des images, des sons et des textes réalistes, alors que les garde-fous existants ne suffisent pas à empêcher les abus.
Le chatbot Grok, accessible via X, le réseau social d'Elon Musk, a été critiqué pour la génération d'images manipulées, notamment des représentations de femmes en bikini ou dans des poses sexuellement explicites, ainsi que des images impliquant des enfants.
Les régulateurs des deux pays d'Asie du Sud-Est ont déclaré que les contrôles en place n'empêchaient pas la création et la diffusion de faux contenus pornographiques, en particulier impliquant des femmes et des mineurs. Le gouvernement indonésien a temporairement bloqué l'accès à Grok samedi, suivi par la Malaisie dimanche.
« Le gouvernement considère les deepfakes à caractère sexuel non consentis comme une atteinte grave aux droits humains, à la dignité et à la sécurité des citoyens dans l'espace numérique », a déclaré samedi la ministre de la Communication et des Affaires numériques, Meutya Hafid, dans un communiqué.
Le ministère a indiqué que la mesure visait à protéger les femmes, les enfants et l'ensemble de la population contre de faux contenus pornographiques générés à l'aide de l'IA.
Les premières constatations ont montré que Grok ne dispose pas de garde-fous efficaces pour empêcher les utilisateurs de créer et de diffuser des contenus pornographiques à partir de photos réelles de résidents indonésiens, a indiqué dans un autre communiqué Alexander Sabar, directeur général de la supervision de l'espace numérique. Selon lui, de telles pratiques risquent de porter atteinte à la vie privée et au droit à l'image lorsque des photos sont manipulées ou partagées sans consentement, causant des préjudices psychologiques, sociaux et réputationnels.
À Kuala Lumpur, la Commission malaisienne des communications et du multimédia a ordonné dimanche une restriction temporaire de l'accès à Grok, après ce qu'elle a qualifié de « mauvais usages répétés » de l'outil pour générer des images obscènes, sexuellement explicites et manipulées sans consentement, y compris des contenus impliquant des femmes et des mineurs.
Le régulateur a indiqué que les mises en demeure adressées ce mois-ci à X Corp. et à xAI, exigeant des garde-fous renforcés, avaient reçu des réponses reposant principalement sur des mécanismes de signalement par les utilisateurs.
« La restriction est imposée à titre de mesure préventive et proportionnée, le temps que se poursuivent les processus juridiques et réglementaires », a-t-il précisé, ajoutant que l'accès restera bloqué jusqu'à la mise en place de garde-fous efficaces.
Lancé en 2023, Grok est gratuit sur X. Les utilisateurs peuvent lui poser des questions sur la plateforme et le mentionner dans des publications qu'ils créent directement ou dans des réponses à des publications d'autres utilisateurs. L'été dernier, l'entreprise a ajouté une fonction de génération d'images, Grok Imagine, incluant un « spicy mode » capable de produire des contenus pour adultes.
Ces restrictions en Asie du Sud-Est interviennent alors que Grok fait l'objet d'une surveillance accrue ailleurs, notamment au sein de l'Union européenne, au Royaume-Uni, en Inde et en France.
La semaine dernière, Grok a limité la génération et la retouche d'images aux utilisateurs payants, à la suite d'un tollé mondial suscité par des deepfakes sexualisés de personnes, mais ses détracteurs estiment que le problème n'a pas été entièrement résolu.