Grok a été vivement critiqué au début du mois dernier pour avoir généré des deepfakes à caractère sexuel explicite de femmes et de mineurs.
Le régulateur britannique de la protection des données a ouvert mardi une enquête visant X et xAI afin de déterminer si les entreprises d’Elon Musk respectent la législation sur les données personnelles dans le cadre de la création de deepfakes sexualisés par le chatbot d’IA Grok.
Cette démarche s’inscrit dans une enquête plus large menée au Royaume-Uni sur Grok, visé par une vague de critiques internationales pour avoir permis aux utilisateurs de créer et de partager, à partir de simples requêtes textuelles, des images sexualisées de femmes et d’enfants.
« Les informations concernant Grok soulèvent des questions extrêmement préoccupantes sur la façon dont les données personnelles des personnes ont été utilisées pour générer des images intimes ou sexualisées à leur insu et sans leur consentement, et sur l’existence ou non des garde-fous nécessaires pour éviter cela », a déclaré William Malcolm, directeur exécutif chargé des risques réglementaires et de l’innovation au sein de l’Information Commissioner’s Office (ICO), dans un communiqué.
« Perdre ainsi le contrôle de ses données personnelles peut causer un préjudice immédiat et considérable. C’est particulièrement vrai lorsque des enfants sont concernés. »
Le mois dernier, le régulateur britannique indépendant de la sécurité en ligne, l’Ofcom, a ouvert une enquête formelle sur X afin de déterminer si la plateforme respecte ses obligations de protection du public contre les contenus illégaux.
Le chatbot, accessible via la plateforme de réseau social X d’Elon Musk, a été vivement critiqué le mois dernier après avoir permis aux utilisateurs de générer des deepfakes sexualisés visant principalement des femmes et des mineurs.
Des gouvernements du monde entier ont condamné la plateforme et ouvert des enquêtes à son sujet.
La semaine dernière, la Commission européenne a ouvert une enquête sur la plateforme de médias sociaux afin de déterminer si celle-ci a pris des mesures suffisantes pour réduire le risque de création et de diffusion de ces images.