Dans un entretien avec Euronews Next, Jimmy Wales parle des "débuts compliqués" de ChatGPT, de la leçon à tirer pour OpenAI et de sa plateforme d'information open-source.
PUBLICITÉChatGPT, le célèbre outil d'intelligence artificielle générative (IAG), créé par OpenAI, n'est pas encore au niveau pour rédiger des articles sur Wikipedia, explique Jimmy Wales, le fondateur de la plateforme, à Euronews Next.
Un article Wikipédia écrit aujourd'hui avec ChatGPT-4 est "horrible" et "ne fonctionne pas du tout", dit-il, parce qu'il "rate beaucoup de choses et se trompe, se trompe de manière plausible, invente des sources et c'est un désastre".
Il va même jusqu'à prédire qu'il faudra au moins 50 ans pour parvenir à une IA surhumaine.
S'il pense que l'IA pourrait dépasser l'homme dans un avenir lointain, il est plus probable que les outils de l'IA continueront à soutenir les activités intellectuelles, même s'ils n'en sont qu'à leurs débuts pour le moment.
OpenAI, la start-up la plus rentable des États-Unis, est entrée en scène l'année dernière avec son chatbot ChatGPT.
Cette technologie reçoit des instructions et des questions et y répond de manière étrangement humaine en se basant sur des sources qu'elle recueille en ligne. Elle peut être utilisée pour rédiger des essais, des paroles de chansons ou même des conseils de santé, bien qu'elle puisse souvent se tromper dans les informations, un phénomène appelé "hallucination".
Cependant, toute-puissante qu'elle soit, la start-up de l'IA a été plongée dans le chaos avec l'éviction de son PDG et cofondateur, Sam Altman, la semaine dernière, puis sa réembauche quelques jours plus tard, après que les employés ont menacé le conseil d'administration de démissionner en masse.
Jimmy Wales a déclaré qu'il était "inquiétant" que cela se produise dans une entreprise aussi influente, mais que cela "passera probablement comme si rien ne s'était passé".
Il a ajouté que l'entreprise remettrait probablement de l'ordre dans ses affaires et qu'il s'agissait d'une "bonne leçon pour les start-ups de toutes sortes : il faut vraiment penser, même à un stade très précoce, à la gouvernance et à la stabilité des prises de décision".
Wikipédia et l'IA travaillent ensemble
Malgré ses critiques à l'égard des modèles d'IA générative actuels, Jimmy Wales n'a pas exclu l'utilisation de l'IA pour Wikipédia.
Selon lui, si un outil était créé pour identifier les erreurs dans un article de Wikipédia en le comparant aux sources utilisées, il pourrait aider à éliminer les inexactitudes.
Il a même déclaré à Euronews Next qu'il pourrait envisager une collaboration avec une entreprise d'IA à code source ouvert, librement utilisable, afin de respecter les principes de Wikipédia, mais il a précisé qu'il n'y avait rien de concret à l'étude.
Il a toutefois précisé que cette décision ne serait pas prise à la légère.
"La plupart des entreprises, et pas seulement les organisations caritatives comme nous, vous diront qu'il faut être très, très prudent si l'on veut mettre au cœur de son activité une technologie contrôlée par quelqu'un d'autre, car si cette technologie prend une autre direction, c'est toute l'activité qui risque d'être menacée", déclare-t-il.
Il réfléchira donc soigneusement à tout partenariat, mais il a ajouté qu'il était ouvert aux programmes pilotes et aux modèles d'essai.
Wikipédia reste un élément essentiel pour l'IA générative, car cette dernière s'appuie sur des informations publiées en ligne pour produire du contenu. Par conséquent, l'encyclopédie en ligne doit être exacte et non biaisée, ce qui a été reproché à l'IA et à Wikipédia.
Pour assurer l'égalité des sexes et lutter contre la désinformation, Wikipédia dispose de sa propre armée de "wikipédiens", qui sont pour la plupart des rédacteurs bénévoles masculins. Jimmy Wales a déclaré que les wikipédiens sont capables de reconnaître les faux sites web et de déterminer facilement si le texte a été écrit par un être humain.
Par exemple, il y avait moins de femmes scientifiques au 19ème siècle et peu d'écrits leur étaient consacrés à l'époque, ce qui signifie que les wikipédiens ne peuvent pas écrire beaucoup sur elles. Il peut également s'agir de préjugés inconscients : un wikipédien de 28 ans, passionné de technologie, peut avoir des intérêts différents de ceux d'une mère de famille de 55 ans.
PUBLICITÉLa diversité est essentielle pour lutter contre les préjugés, ce que l'entreprise s'efforce de faire.
"C'est un vrai problème et nous nous sentons évidemment très responsables dans la mesure où le monde dépend de Wikipédia et où les modèles d'intelligence artificielle dépendent de Wikipédia", ajoute-t-il.
"Nous ne voulons pas créer des robots biaisés, nous devons être en quelque sorte le coeur humain de Wikipedia".
La querelle avec Elon Musk
La désinformation et la haine en ligne sont des sujets de préoccupation pour Jimmy Wales, ce qui lui a valu de se heurter au patron de X (anciennement Twitter), Elon Musk, qui a proposé un milliard de dollars (915 millions d'euros) pour que Wikipédia change de nom et devienne "Dickipedia".
Jimmy Wales n'a jamais répondu au commentaire d'Elon Musk, estimant qu'il n'y avait pas lieu de le faire. "Tout le monde regarde cela et se dit : "As-tu 12 ans, Elon ?" ", déclare-t-il à Euronews Next.
PUBLICITÉL'offre d'un milliard de dollars a été faite après que Jimmy Wales a critiqué Elon Musk pour avoir licencié du personnel de modération chez X, ce qui, selon le chef de Wikipédia, a permis l'augmentation des comportements racistes et toxiques sur la plateforme et risque d'affecter les recettes publicitaires.
"Vous ne pouvez pas à la fois gérer une plateforme toxique et vous attendre à ce que les annonceurs vous financent, ce licenciement pourrait changer les choses", considère Jimmy Wales, ajoutant que ses échanges avec Elon Musk sont par ailleurs "amicaux" et "agréables".
Il a ajouté qu'il utilisait toujours X, mais qu'il avait supprimé l'application de son téléphone. Cela a rendu sa vie "bien meilleure", car il peut faire d'autres choses moins toxiques.
Sa propre expérience des réseaux sociaux
Jimmy Wales a lancé sa propre plateforme de réseau social qui, selon lui, a une approche "complètement différente" de celle de X.
La semaine dernière, lors du Web Summit, il a annoncé la version bêta de son projet baptisé Trust Cafe, une nouvelle communauté en ligne qui, selon lui, donnera du pouvoir à ses membres les plus fiables.
PUBLICITÉRévélé pour la première fois en septembre, il décrit ce projet comme une expérience de plateforme de réseau social conviviale et ouverte, qui n'a pas vocation à devenir une entreprise commerciale.
Selon lui, il s'agit d'un croisement entre X et Reddit, où l'on peut discuter de certains sujets sans être limité à un certain nombre de caractères et où il n'y a pas de propriétaire unique de la discussion.
"Reddit est à la fois fantastique et horrible. Notre modèle est plus horizontal, donnant le même pouvoir à tous les utilisateurs", précise Jimmy Wales.
Bien qu'il admette que la haine en ligne et les comportements toxiques seront toujours présents chez certains utilisateurs, il est optimiste.
"Si vous avez des gens raisonnables qui ont suffisamment de pouvoir, la plateforme dans son ensemble sera raisonnable. Il y aura toujours quelqu'un de fou, il y aura toujours un débat qui tournera mal. C'est la nature humaine", a déclaré Jimmy Wales.
PUBLICITÉ"Mais tant que l'essentiel des échanges se fait de façon saine, on peut obtenir un réseau d'échange très intéressant où les gens se sentent libres de partager leurs idées".