La Commission européenne a ouvert une enquête formelle sur Grok, l'assistant d’intelligence artificielle d’Elon Musk disponible sur X, après le tollé provoqué par l'incapacité de la plateforme à empêcher la création d'images sexuellement explicites de personnes réelles, y compris d'enfants.
La Commission européenne a lancé une enquête formelle sur Grok, le chatbot de X, après que la fonction de retouche d'image de son outil d'IA intégré a été largement utilisée pour déshabiller virtuellement des photos de femmes réelles et de jeunes filles mineures sans leur consentement.
Comme l'a d'abord rapporté le quotidien allemand Handelsblatt, l'enquête visera à déterminer si la plateforme a pris des mesures suffisantes pour atténuer le risque de création et de diffusion des images.
S'il s'avère que X a enfreint les règles de l'UE relatives aux plateformes en ligne en vertu de la loi sur les services numériques (DSA), la Commission pourrait lui infliger une amende pouvant aller jusqu'à 6 % de son chiffre d'affaires annuel global.
En décembre dernier, la Commission européenne a déjà infligé une amende de 120 millions d'euros au réseau social d'Elon Musk pour pour ses pratiques en matière de vérification des comptes et de publicité.
Les préoccupations sont apparues l'été dernier après que l'outil d'IA intégré à la plateforme, Grok, a été enrichi d'une fonction payante appelée "Spicy Mode", qui permettait aux utilisateurs de l'inciter à créer du contenu explicite.
Elon Musk s'est moqué du tollé qui a suivi dans un message publié sur son compte X.
Au début du mois, alors que l'indignation mondiale face à cette fonctionnalité grandissait, un porte-parole de la Commission l'a condamnée dans les termes les plus forts.
Ce n'est pas "épicé", a-t-il déclaré. "C'est illégal. C'est épouvantable. C'est dégoûtant. Cela n'a pas sa place en Europe."
Face à la colère et à l'inquiétude du public, X a finalement mis en œuvre des mesures visant à empêcher Grok de permettre l'édition d'images de personnes réelles pour les mettre dans des vêtements révélateurs et des situations sexuelles - les restrictions s'appliquant à tous les utilisateurs, y compris les abonnés payants.
X a également déclaré que les images sexualisées d'enfants modifiées par Grok avaient été retirées de la plateforme et que les utilisateurs impliqués dans leur création avaient été bannis.
"Nous prenons des mesures contre le contenu illégal sur X, y compris le matériel d'abus sexuel d'enfants (CSAM), en le supprimant, en suspendant définitivement les comptes et en travaillant avec les gouvernements locaux et les forces de l'ordre si nécessaire", a indiqué le compte X Safety.
Ce n'est pas la première fois que Grok fait l'objet d'un examen minutieux pour des infractions présumées à la législation européenne. En novembre dernier, le chatbot d'IA a généré du contenu négationniste.
Des enquêtes sur le chatbot de la plateforme sont actuellement en cours en France, au Royaume-Uni et en Allemagne, ainsi qu'en Australie. Grok a d'ores et déjà été totalement interdit en Indonésie et en Malaisie.
La Commission a indiqué qu'elle avait envoyé une demande d'information au titre de la loi sur la protection des données et qu'elle était en train d'analyser la réponse de X.