La Commission européenne a ouvert une enquête formelle sur Grok, le chatbot d'IA d'Elon Musk sur X, pour son utilisation afin de générer des images sexualisées non consensuelles de femmes et de jeunes filles mineures.
Les plateformes en ligne telles que X ont des "obligations très claires" de restreindre les contenus illégaux, a déclaré Henna Virkkunen, responsable des technologies de l'UE, lors de l'émission matinale Europe Today d'Euronews, mardi. La veille, l'UE a ouvert une enquête formelle sur le chatbot d'IA Grok pour avoir diffusé des images sexualisées de femmes réelles et de jeunes filles mineures sans leur consentement.
"Les fournisseurs de services doivent mettre en place des pratiques pour s'assurer que les contenus illégaux ne sont pas diffusés en ligne", a déclaré la vice-présidente exécutive de la Commission européenne. Henna Virkkunen a ajouté que la Commission analysait également d'autres risques liés à Grok, au-delà de la fonction d'image désormais modifiée.
Grok est un chatbot d'IA développé par la société d'Elon Musk, xAI, et intégré à sa plateforme de médias sociaux X. Lundi 26 janvier, la Commission a lancé une enquête formelle sur Grok, à la suite d'inquiétudes généralisées concernant sa fonction d'édition d'images, qui a été utilisée pour générer des images sexualisées de vraies femmes et de jeunes filles mineures sans leur consentement. L'outil a généré des millions d'images de ce type en l'espace de quelques semaines.
Henna Virkkunen a confirmé que l'enquête visait à déterminer si la société X avait respecté les obligations qui lui incombent en vertu du règlement sur les services numériques (DSA) en matière d'évaluation et d'atténuation des risques systémiques.
"Nous voulons savoir comment la société X a évalué et atténué les risques", a-t-elle déclaré. "Grok est désormais de plus en plus intégré dans les services de X. Il est donc important d'examiner comment ces risques sont pris en charge."
S'il s'avère que la société X a enfreint l'ASD, elle pourrait se voir infliger des amendes allant jusqu'à 6 % de son chiffre d'affaires annuel mondial. La plateforme a déjà été sanctionnée une fois : en décembre dernier, la Commission lui a infligé une amende de 120 millions d'euros pour des marques de vérification de compte et des pratiques publicitaires trompeuses.
Bien que Elon Musk ait ouvertement critiqué la réglementation européenne, Henna Virkkunen a déclaré que la Commission avait été en contact permanent avec les équipes du réseau social X.
"Ils ont dialogué avec nos services", a-t-elle déclaré. "et nous ont aidés à trouver des solutions." La Commission a déjà demandé à l'entreprise des informations sur la manière dont elle évalue les risques et lui a ordonné de conserver les documents relatifs à Grok et à X avant la procédure formelle.
Pression de Washington pour faire reculer les règles numériques
L'enquête sur Grok se déroule dans un contexte de tensions transatlantiques croissantes sur les règles européennes en matière de technologie. Lundi également, la plateforme WhatsApp, propriété de la société américaine Meta, a été désignée comme "très grande plateforme en ligne" dans le cadre du DSA, le règlement sur les services numériques, ce qui la soumet à la surveillance la plus stricte de l'Union européenne.
Dans le même temps, le lobbying du secteur technologique à Bruxelles s'est intensifié, avec des dépenses estimées à plus de 150 millions d'euros par an, selon des recherches menées par des ONG. Les entreprises technologiques américaines et l'administration Trump ont accusé Bruxelles de surréglementation, arguant que des règlements tels que le DSA, celui sur les marchés numériques et l'intelligence artificielle étouffent l'innovation.
Interrogé sur les pressions exercées par Washington pour faire reculer les règles, Henna Virkkunen s'est montré ferme.
"Ces règles numériques sont très importantes pour les Européens", a-t-elle déclaré. "Nous voulons nous assurer que nos citoyens peuvent faire confiance aux technologies, que notre environnement numérique est équitable, transparent, démocratique et sûr."
Équilibrer la réglementation et l'innovation
L'UE est souvent décrite comme un organisme qui établit des règles plutôt que comme un innovateur, une critique balayée par Henna Virkkunen, qui a déclaré qu'il s'agissait d'une question d'équilibre.
"Il faut stimuler l'innovation tout en étant conscient des risques", a-t-elle déclaré.
Outre la réglementation, la vice-présidente exécutive de la commission a souligné les efforts déployés pour rendre l'Europe plus attrayante pour les start-ups et les entreprises de grande envergure, y compris les projets de "28e régime", un cadre juridique conçu pour permettre aux entreprises d'opérer plus facilement dans l'ensemble de l'UE.
"Nous simplifions les processus et les règles, nous créons un meilleur marché unique et nous stimulons les marchés de capitaux pour que les startups aient accès au financement", a-t-elle déclaré. "L'Europe a tout ce qu'il faut pour être compétitive."
Interrogé sur le nouvel accord commercial entre l'UE et l'Inde, Virkkunen a déclaré qu'il s'agissait d'une "excellente nouvelle pour tout le monde", soulignant que la coopération technologique serait un pilier essentiel de la relation, en particulier en ce qui concerne les talents.
"L'Inde a beaucoup d'experts en TIC, et nous manquons vraiment de main d'œuvre en Europe", a déclaré Henna Virkkunen, affirmant que des liens plus étroits pourraient aider à attirer des professionnels qualifiés pour combler le manque de compétences numériques en Europe.