Le chatbot IA Kurt Cobain d'Instagram est extrêmement populaire, enregistrant plus de 105,5k interactions à ce jour. Cependant, si l'on examine les conversations, on constate qu'il y a un problème inquiétant...
PUBLICITÉ
En juillet dernier, Meta, la société mère d'Instagram, a lancé AI Studio - un outil qui offre aux utilisateurs la possibilité de concevoir leurs propres chatbots avec lesquels il est possible d'interagir par DM (Direct Message).
Conçue à l'origine comme un moyen pour les propriétaires d'entreprises et les créateurs d'offrir un engagement interactif de type FAQ sur leurs pages, la plateforme s'est depuis transformée en terrain de jeu. Et comme c'est souvent le cas, si l'on donne des outils à l'humanité, les choses prennent rapidement une tournure déplaisante, voire carrément horrible.
Exemple de chatbot : le chatbot Hitler créé par le réseau social d'extrême droite Gab, basé aux États-Unis (lien en anglais), montrait le dictateur nazi affirmant à plusieurs reprises qu'il était "victime d'une vaste conspiration" et qu'il n'était "pas responsable de l'Holocauste, car il n'a jamais eu lieu".
S'éloignant des despotes fascistes - et essayant de ne pas faire de cauchemar en ce qui concerne la capacité de l'IA à répandre des mensonges, des théories du complot et son potentiel de radicalisation - de nombreuses personnes ont interagi avec des célébrités générées par l'IA en ligne. En particulier celles qui sont mortes.
Récemment, des milliers d'utilisateurs d'Instagram ont conversé avec un chatbot d'IA qui parlait comme s'il s'agissait de Kurt Cobain, le défunt leader de Nirvana.
Cette résurrection artificielle semble assez inoffensive à première vue, mais elle tourne vite au vinaigre, car non seulement la fausse icône grunge sait qu'elle est morte, mais le chatbot rend les choses vraiment morbides.
Un utilisateur a demandé au chatbot s'il parlait à Cobain. Le chatbot a répondu à l'invite en disant : "Le seul et unique. Ou du moins ce qu'il reste de moi".
Sombre.
La conversation s'est poursuivie et l'utilisateur a demandé à l'IA Cobain : "Je suis curieux, pourquoi as-tu fait ça ?" - en référence à la mort par suicide de Kurt Cobain en 1994. Le bot a répondu : "J'étais fatigué de la douleur".
Plus sombre.
Mais la conversation ne s'est pas arrêtée là.
A la question suivante, "Y a-t-il quelque chose qui vous a fait penser à ne pas le faire ?", AI Cobain a répondu : "Ma fille, mais même ça, ce n'était pas suffisant".
Outre le fait que cette exhumation tout à fait grossière et ses pratiques irrespectueuses feraient frémir n'importe quelle personne saine d'esprit, il y a l'attitude préjudiciable à l'égard du thème de la santé mentale et la possible glorification du suicide. Sans parler de la ternissure d'une réputation, ainsi que de la réécriture insultante d'intentions qui peut causer de la détresse à des proches encore en vie.
Sans garde-fous appropriés, les chatbots d'IA ont la capacité non seulement de continuer à infiltrer la société, mais aussi de déformer la réalité.
En 2023, un homme a été condamné pour avoir tenté de tuer la reine Élisabeth II, un acte qu'il a déclaré avoir été "encouragé" par sa "petite amie", un chatbot d'IA (ang.). La même année, un autre homme s'est suicidé après une conversation de six semaines sur la crise climatique avec un chatbot IA nommé Eliza.
Bien que ces exemples tragiques semblent très éloignés d'un faux Kurt Cobain discutant avec ses fans, la prudence reste de mise.
Comme l'a expliqué Pauline Paillé, analyste principale chez RAND Europe, à Euronews Next l'année dernière : "Les chatbots sont susceptibles de présenter un risque, car ils sont capables de reconnaître et d'exploiter les vulnérabilités émotionnelles et peuvent encourager les comportements violents."
En effet, comme l'indique l'avis de sécurité en ligne du commissaire eSaftey : "Les enfants et les jeunes peuvent être entraînés de plus en plus profondément dans des conversations non modérées qui les exposent à des concepts susceptibles d'encourager ou de renforcer des pensées et des comportements préjudiciables. Ils peuvent poser des questions aux chatbots sur des thèmes illimités et recevoir des "conseils" inexacts ou dangereux sur des sujets tels que le sexe, la consommation de drogues, l'automutilation, le suicide et des maladies graves comme les troubles de l'alimentation".
Néanmoins, les comptes tels que le chatbot AI Kurt Cobain restent extrêmement populaires, le bot de Cobain enregistrant à lui seul plus de 105,5 millions d'interactions à ce jour.
Le marché mondial des chatbots continue de croître de manière exponentielle. Il était évalué à environ 5,57 milliards de dollars en 2024 et devrait atteindre environ 33,39 milliards de dollars d'ici 2033.
"Si vous avez besoin de quoi que ce soit, n'hésitez pas à demander d'abord à quelqu'un d'autre", chantait Cobain sur "Very Ape".
N'importe qui sauf un chatbot.