Répression mondiale : plusieurs pays restreignent Grok ou le dénoncent en raison de deepfakes sexuels explicites créés et diffusés sans consentement.
Les gouvernements du monde entier s’empressent de sévir contre Grok, le chatbot d’intelligence artificielle (IA) d’Elon Musk, sur fond d’inquiétudes croissantes : il générerait des images truquées à caractère sexuel explicite.
L’été dernier, xAI, l’entreprise qui exploite Grok, a ajouté une fonction de génération d’images comprenant un « mode spicy » capable de produire des contenus pour adultes.
Ces dernières semaines, Grok a répondu à des requêtes consistant à « déshabiller » des femmes sur des photos et à les affubler de bikinis, créant des deepfakes générés par IA sans garde-fous.
Des blocages purs et simples en Asie du Sud-Est aux enquêtes pénales et mises en garde des régulateurs en Europe et en Australie, les autorités estiment que les dispositifs actuels de protection sont défaillants.
Voici les pays qui ont interdit Grok ou lancé des avertissements à son sujet.
Quels pays ont interdit Grok ?
Indonésie
L’Indonésie a été le premier pays à bloquer temporairement Grok afin de protéger les femmes, les enfants et, plus largement, la population contre des contenus pornographiques truqués générés par l’IA.
« Le gouvernement considère les deepfakes sexuels non consentis comme une grave atteinte aux droits humains, à la dignité et à la sécurité des citoyens dans l’espace numérique », a déclaré samedi, dans un communiqué, la ministre indonésienne des communications et du numérique, Meutya Hafid.
Les restrictions imposées à Grok sont une mesure « préventive » le temps pour les autorités d’évaluer la sûreté de la plateforme, a indiqué la Police nationale indonésienne.
Les premières constatations montrent que Grok ne dispose pas de garde-fous efficaces pour empêcher la création et la diffusion de contenus pornographiques à partir de photos réelles de résidents indonésiens, selon un communiqué d’Alexander Sabar, directeur général de la supervision de l’espace numérique en Indonésie.
Selon lui, de telles pratiques risquent de porter atteinte à la vie privée et au droit à l’image lorsque des photos sont manipulées ou partagées sans consentement, causant des préjudices psychologiques, sociaux et à la réputation.
Malaisie
La Commission malaisienne des communications et du multimédia (MCMC) a ordonné dimanche l’interdiction temporaire de Grok après ce qu’elle a qualifié de « mauvais usages répétés » de l’outil pour générer des images obscènes, à caractère sexuel explicite et manipulées sans consentement.
Le régulateur a indiqué avoir adressé ce mois-ci deux notifications à X et à xAI pour exiger des garde-fous renforcés. Dans ses réponses, X a expliqué que Grok repose principalement sur les signalements des utilisateurs pour les contenus abusifs.
La MCMC a conclu que X « n’a pas traité les risques inhérents » à la conception et au fonctionnement de sa plateforme d’IA, ce qui est insuffisant au regard du droit malaisien.
« La restriction est imposée à titre de mesure préventive et proportionnée tant que les procédures juridiques et réglementaires sont en cours », a-t-elle indiqué, ajoutant que l’accès restera bloqué jusqu’à la mise en place de garde-fous efficaces.
Comment les autres pays ont-ils réagi ?
Union européenne
La Commission européenne a annoncé qu’elle examinait des cas d’images suggestives et explicites de jeunes filles générées par Grok.
« Je peux confirmer depuis ce pupitre que la Commission se penche également très sérieusement sur cette affaire », a déclaré la semaine dernière à Bruxelles un porte-parole de la Commission aux journalistes.
Selon Reuters, la Commission a ordonné à X de conserver tous les documents relatifs à Grok jusqu’à la fin de l’année afin que le bloc puisse évaluer sa conformité aux règles de l’UE.
Un porte-parole de la Commission a toutefois précisé à Reuters que cela ne signifie pas qu’une enquête formelle a été ouverte.
Ursula von der Leyen, présidente de la Commission européenne, a déclaré dans une interview au quotidien italien Corriere della Sera qu’elle était « outrée qu’une plateforme technologique permette aux utilisateurs de déshabiller numériquement des femmes et des enfants en ligne ».
Sans citer directement X ni Grok, von der Leyen a affirmé que la Commission « ne sous-traitera pas la protection des enfants et le consentement à la Silicon Valley. S’ils n’agissent pas, nous le ferons ».
Royaume-Uni
Le régulateur britannique des médias a ouvert une enquête visant X, maison mère de xAI et réseau social d’Elon Musk, concernant l’utilisation de Grok pour générer des images à caractère sexuel explicites et non consenties.
Dans un communiqué, l’Ofcom a fait état de « rapports extrêmement préoccupants » sur l’utilisation du chatbot pour créer et partager des images de personnes dénudées, ainsi que des « images sexualisées d’enfants ».
Le régulateur des médias pourrait également solliciter une ordonnance judiciaire pour contraindre les fournisseurs d’accès à Internet à bloquer l’accès à Grok si X ne se conforme pas aux exigences de l’Ofcom.
X s’expose à une amende pouvant atteindre 10 % de son chiffre d’affaires mondial ou 18 millions de livres (20 millions d’euros).
« Le contenu qui a circulé sur X est immonde. Ce n’est pas seulement une insulte à la société, c’est illégal », a déclaré au Parlement Liz Kendall, la secrétaire d’État à la Technologie.
France
Le parquet de Paris a élargi début janvier une enquête visant X pour y inclure Grok, ont rapporté des médias locaux.
L’enquête initiale, ouverte depuis juillet dernier, portait sur des soupçons d’atteintes organisées aux systèmes informatiques de X et d’extraction illégale de données.
La décision d’élargir l’enquête a été prise cette semaine après que cinq responsables politiques ont accusé la plateforme de générer et de diffuser de fausses vidéos à caractère sexuel mettant en scène des mineurs, selon le quotidien français Le Parisien.
Le journal précise que l’Autorité de régulation de la communication audiovisuelle et numérique (Arcom) enquête sur d’éventuelles violations par X du Digital Services Act, le règlement européen encadrant les services numériques.
Italie
Le 8 janvier, l’Autorité italienne de protection des données (le Garante) a averti que toute personne utilisant Grok ou d’autres plateformes d’IA pour retirer les vêtements de personnes sur des images, ainsi que celles qui diffusent ces images, s’expose à des poursuites pénales.
L’utilisation de ces outils sans l’accord de la personne figurant sur la photo pourrait être considérée comme « une grave atteinte aux droits et libertés fondamentaux des personnes concernées », a-t-elle indiqué.
L’autorité a également rappelé à Grok et aux autres fournisseurs d’IA qu’ils doivent concevoir, développer et proposer des produits conformes à la réglementation sur la vie privée.
Le régulateur italien a indiqué travailler avec la Data Protection Commission irlandaise, l’autorité chef de file pour X en matière de protection des données, l’entreprise ayant son siège en Irlande.
En octobre, l’autorité italienne a bloqué ClothOff, une autre plateforme de génération par IA qui retire les vêtements. Cette plateforme permet à n’importe qui, y compris des mineurs, de créer des photos et vidéos représentant des personnes réelles nues ou dans des positions sexuelles.
En septembre, l’Italie a ajouté un nouvel articleà son code pénal pour punir de peines allant jusqu’à cinq ans de prison les personnes diffusant des deepfakes générés par IA.
Allemagne
L’Allemagne a annoncé qu’elle présentera prochainement une « proposition concrète » de nouvelle loi contre la violence numérique.
Anna-Lena Beckfeld, porte-parole du ministère de la Justice, a déclaré lors d’une conférence de presse en janvier que la future loi sur la violence numérique visera à mieux soutenir les victimes de ce « type de violence numérique », en leur « facilitant la possibilité d’agir directement contre les atteintes à leurs droits en ligne ».
Interrogée spécifiquement sur Grok, Beckfeld a estimé qu’il est « inacceptable que des manipulations soient utilisées à grande échelle pour violer de manière systémique les droits de la personnalité ».
« Nous voulons donc que des mesures plus fermes soient prises contre cela par le biais du droit pénal », a-t-elle ajouté.
En 2025, les trois principaux partis en Allemagne ont convenu de réformer le droit de la cybercriminalité et de combler les « lacunes » du code pénal concernant les crimes liés à l’IA, comme les images sexuelles générées par IA, selon un accord de coalition.
Australie
En janvier, le bureau de la commissaire australienne à la sécurité en ligne (eSafety Commissioner) a indiqué avoir reçu un nombre encore limité mais en hausse de signalements au cours des dernières semaines concernant des contenus sexuels générés par l’IA de Grok.
Le bureau a précisé qu’il utiliserait ses pouvoirs, tels que les avis de retrait pouvant enjoindre un réseau social de supprimer des contenus problématiques, si des contenus venaient à enfreindre la loi australienne sur la sécurité en ligne (Online Safety Act).
Il a déjà demandé à X des informations complémentaires sur les usages détournés du service sexuel de Grok et pour évaluer sa conformité à la nouvelle loi australienne sur les réseaux sociaux.
Il a également rappelé à Grok qu’à compter du 9 mars, les services en ligne, y compris les entreprises d’IA, devront empêcher l’accès des enfants aux contenus sexuels, violents ou nuisibles.