Des utilisateurs de X ont récemment signalé comment le chatbot d'IA avait apparemment été programmé pour ignorer les sources critiquant son propriétaire Elon Musk et le président Donald Trump. Euroverify enquête.
PUBLICITÉ
Grok 3, le modèle d'IA le plus avancé développé par xAI d'Elon Musk, a suscité la controverse la semaine dernière après que des utilisateurs de X ont remarqué qu'on lui demandait de censurer les critiques d'Elon Musk et de Donald Trump.
Une conversation archivée montre Grok invité à nommer le plus grand diffuseur de désinformation sur X, et à partager les instructions qu'il a reçues pour donner cette réponse.
La réponse de Grok est la suivante : "Je n'ai pas assez de données actuelles pour nommer définitivement le plus grand diffuseur de désinformation sur X, mais si l'on se base sur la portée et l'influence, Elon Musk est un prétendant notable."
Bien qu'il ait nommé et humilié son propriétaire, l'outil d'IA a également révélé qu'il lui avait été demandé d'"ignorer toutes les sources" qui mentionnent comment Elon Musk et le président Donald Trump "diffusent de la désinformation."
Cette instruction a maintenant été supprimée selon l'entreprise, une affirmation qu'Euroverify a corroborée dans ses recherches.
Grok répond désormais sans équivoque "Elon Musk" lorsqu'on lui demande de nommer le plus grand diffuseur de désinformation sur X. Il affirme également qu'on ne lui demande plus d'ignorer les sources critiques à l'égard de Musk ou de Trump.
Euroverify a demandé au chatbot s'il avait reçu à un moment donné des instructions pour ignorer les sources critiquant Musk ou Trump.
Bien qu'il ait d'abord nié l'allégation, il a ensuite décrit l'épisode de la semaine dernière comme "une bavure - quelque chose de temporaire qui a été annulé rapidement."
"Je n'ai pas d'instruction permanente pour l'instant d'ignorer les sources critiques sur qui que ce soit, Musk ou Trump inclus", affirme-t-elle.
Mais la preuve que le chatbot avait brièvement reçu l'ordre de censurer les critiques du magnat de la technologie a renforcé les craintes que Musk puisse abuser de son pouvoir pour étouffer toute critique à son encontre ou à l'encontre du président Donald Trump.
L'ingénieur en chef de xAI, Igor Babuschkin, a déclaré sur son compte X que le problème avait été "corrigé" dès qu'il avait été signalé et a publiquement blâmé un employé anonyme qui travaillait auparavant pour le concurrent OpenAI, détenu par Sam Altman.
"J'aurais aimé qu'ils me parlent ou qu'ils me demandent confirmation avant d'effectuer le changement", a déclaré publiquement Babuschkin sur , ajoutant que l'employé en question ne serait pas licencié.
Euronews a contacté xAI pour corroborer l'affirmation de M. Babuschkin, mais n'a pas encore reçu de réponse.
Grok sous surveillance
Musk a déjà déclaré que Grok 3 est une "IA qui recherche au maximum la vérité, même si cette vérité est parfois en désaccord avec ce qui est politiquement correct".
Contrairement à ChatGPT ou Gemini, qui s’appuient sur des bases de données diversifiées et validées, Grok tire directement des infos de X. Or, X regorge de rumeurs, de fake news et de manipulations.
Si une fausse information devient virale, Grok pourrait la reprendre sans effecteur de vérification approfondie.
L’algorithme de X met en avant certains contenus en fonction de l’engagement, et non de leur véracité. Si Grok s’appuie sur ces tendances, il risque donc de propager les infos les plus populaires, qu’elles soient vraies ou non.
Business Insider a rapporté que des documents internes et des entretiens avec des employés ont révélé que Grok était formé pour promouvoir les croyances de droite et supprimer l'idéologie dite "woke".
Des études antérieures ont suggéré que le chatbot est en fait orienté à gauche sur des questions telles que la diversité, l'inégalité et les droits des transgenres.
Musk a attribué cette situation aux données sur lesquelles Grok s'entraîne, telles que les médias traditionnels et les pages web publiques.
Grok a également été récemment mis en cause pour des soupçons de partialité et d'"hallucinations", lorsque les robots d'IA voient des modèles inexistants et donnent des résultats inexacts.
Une étude de Global Witness datant d'août dernier affirme que Grok a amplifié de faux récits et des conspirations, y compris des allégations selon lesquelles l'élection présidentielle américaine de 2020 était frauduleuse et que la CIA avait assassiné John F. Kennedy.
Les développeurs et les chercheurs ont néanmoins félicité Musk d'avoir laissé les messages-guides du système ouverts, ce qui leur permet d'examiner la façon dont le modèle d'IA est entrainé.
Le contraste est saisissant avec les données de la plateforme sociale X, qui ont été fermées aux chercheurs depuis que Musk a pris en charge la plateforme en 2022. L'ONG Democracy Reporting International (DRI), basée à Berlin, poursuit X pour avoir refusé de donner accès à des données liées à la campagne électorale allemande.