Cette mesure est intervenue quelques heures seulement après que le milliardaire a déclaré n’être au courant d’aucune « image de mineur nu » créée par Grok.
Le chatbot d’IA Grok d’Elon Musk ne pourra pas retoucher des photos pour montrer de vraies personnes en tenues révélatrices là où cela est illégal, selon une déclaration publiée sur son réseau social X.
Cette annonce, tard mercredi, faisait suite à une levée de boucliers mondiale contre des images sexualisées de femmes et d’enfants, incluant des interdictions et des mises en garde de certains gouvernements. Elle intervient aussi quelques heures seulement après que Musk a déclaré n’être au courant d’aucune « images de mineurs nus » créée par Grok.
La réaction comprenait une enquête annoncée mercredi par l’État de Californie sur la prolifération de contenus sexuels explicites non consensuels produits à l’aide de Grok.
Au départ, les questions des médias sur le problème n’ont suscité qu’une seule réponse : « legacy media lies ».
La société de Musk, xAI, affirme désormais qu’elle géobloquera les contenus s’ils enfreignent les lois en vigueur dans un lieu donné.
« Nous avons mis en place des mesures technologiques pour empêcher le compte Grok d’autoriser la retouche d’images de personnes réelles en tenues révélatrices, comme des bikinis, des sous-vêtements et autres vêtements suggestifs », a indiqué l’entreprise.
La règle s’applique à tous les utilisateurs, y compris les abonnés payants, qui ont accès à davantage de fonctionnalités.
xAI a aussi limité la création ou la retouche d’images aux seuls abonnés payants, « afin de s’assurer que les personnes qui tentent d’abuser du compte Grok pour enfreindre la loi ou nos politiques puissent être tenues pour responsables ».
Le « mode spicy » de Grok permettait aux utilisateurs de créer des contenus explicites, ce qui a suscité une réaction de la part de gouvernements du monde entier.
La Malaisie et l’Indonésie ont engagé des actions en justice et bloqué l’accès à Grok. Le Royaume-Uni et l’Union européenne enquêtent sur de possibles violations des lois sur la sécurité en ligne. La France et l’Inde ont également lancé des avertissements, exigeant des contrôles plus stricts. Le Brésil a réclamé une enquête sur les abus liés à Grok.
Les fonctions de retouche de Grok « facilitaient la production à grande échelle de deepfakes d’images intimes non consensuelles, utilisées pour harceler des femmes et des filles sur internet, y compris via la plateforme de médias sociaux X », indiquait le communiqué de l’État de Californie.
« L’avalanche de signalements détaillant les contenus sexuellement explicites et non consensuels que xAI a produits et mis en ligne ces dernières semaines est choquante. Ces contenus, qui montrent des femmes et des enfants nus et dans des situations sexuellement explicites, ont servi à harceler des personnes sur internet », a déclaré le procureur général de l’État, Rob Bonta.
« Nous avons une tolérance zéro envers la création et la diffusion, basées sur l’IA, d’images intimes non consensuelles ou de contenus pédopornographiques », a-t-il indiqué.