Le chatbot est sous le feu des critiques depuis deux semaines pour avoir généré des deepfakes sexuellement explicites de femmes et de mineurs.
Le chatbot d’IA Grok d’Elon Musk empêche la plupart des utilisateurs de générer ou de modifier des images, à la suite d’une levée de boucliers mondiale survenue quand il s’est mis à diffuser des deepfakes sexualisés, visant principalement des femmes.
Le chatbot, accessible via la plateforme sociale X de Musk, a, ces dernières semaines, accédé à une série de demandes que des chercheurs jugent malveillantes visant à modifier des images, notamment pour mettre des femmes en bikini ou dans des positions sexuellement explicites.
Des chercheurs ont averti que, dans quelques cas, certaines images semblaient représenter des enfants.
Des gouvernements partout dans le monde ont condamné la plateforme et ouvert des enquêtes à son sujet.
Vendredi, Grok répondait aux demandes de modification d’images par le message : « La génération et l’édition d’images sont actuellement réservées aux abonnés payants. Vous pouvez vous abonner pour débloquer ces fonctionnalités. »
Bien que le nombre d’abonnés de Grok ne soit pas public, on a constaté une baisse nette du nombre de deepfakes explicites que Grok génère désormais, comparé aux jours précédents.
Parmi les réactions officielles des gouvernements, l’Union européenne a fustigé Grok pour un comportement « illégal » et « épouvantable », tandis que des responsables en France, en Inde, en Malaisie et un parlementaire brésilien ont appelé à des enquêtes.
Jeudi, le Premier ministre britannique Keir Starmer a menacé de prendre des mesures non précisées contre X.
« C’est honteux. C’est immonde. Et c’est intolérable », a déclaré Starmer sur Greatest Hits Radio. « X doit reprendre la situation en main. »
Il a indiqué que le régulateur des médias britannique, Ofcom, « dispose de tout notre soutien pour agir » et que « toutes les options » sont sur la table.
« C’est immonde. X doit se ressaisir et retirer ce contenu. Nous prendrons des mesures, car c’est tout simplement intolérable. »
Ofcom et l’autorité britannique chargée de la protection de la vie privée ont tous deux indiqué cette semaine avoir contacté X et la société d’intelligence artificielle de Musk, xAI, pour obtenir des informations sur les mesures prises afin de se conformer à la réglementation britannique.
Grok est gratuit pour les utilisateurs de X, qui peuvent lui poser des questions directement sur la plateforme sociale. Ils peuvent soit le mentionner dans des publications qu’ils ont créées, soit dans des réponses aux publications d’autres utilisateurs.
Grok a été lancé en 2023. L’été dernier, l’entreprise a ajouté une fonctionnalité de génération d’images, Grok Imagine, qui incluait un « mode spicy » permettant aux utilisateurs de générer du contenu pour adultes.
Le problème s’est amplifié à la fois parce que Musk présente son chatbot comme une alternative plus provocatrice à des rivaux dotés de davantage de garde-fous, et parce que les images de Grok sont visibles publiquement et peuvent donc se répandre facilement sur Internet.