Une cohorte de jeunes sensibilisés à l’écologie, surnommés « végans de l’IA », mène la fronde contre ChatGPT et d’autres formes d’IA générative.
Un concours lié au jeu vidéo Warframe a été la goutte d’eau qui a fait déborder le vase pour Bella.
Tous les membres de son équipe de jeu n’avaient que trois jours pour soumettre leur propre œuvre. Nerveuse face au délai serré, elle est restée déterminée, jusqu’à ce que le concours accepte une œuvre générée par l’intelligence artificielle (IA).
« Si l’IA n’avait pas été acceptée dans le concours, peut-être que j’aurais essayé de participer, mais cette fois, cela m’a semblé humiliant : concourir contre une personne qui n’avait pas mis la moindre goutte d’effort dans cette image », a confié à Euronews Next cette jeune femme de 21 ans, originaire de la République tchèque.
« L’une des raisons pour lesquelles j’ai cessé d’utiliser l’IA générative, c’est que c’est moralement mauvais. Si, en tant qu’artiste, je continuais à l’utiliser, ce serait une forme de trahison. J’ai passé des années à apprendre et à améliorer mes compétences moi-même, et là je me retrouve à utiliser quelque chose qui vole les résultats du travail d’autres personnes comme moi ».
Bella fait partie d’un nombre grandissant de « véganes de l’IA », un nouveau nom pour celles et ceux qui choisissent de s’abstenir de toute IA générative, des systèmes entraînés sur d’immenses ensembles de données pour créer des textes, des images, de la musique et plus encore.
Ce mouvement grandit régulièrement depuis le lancement de ChatGPT d’OpenAI en 2022, la communauté anti-IA sur Reddit rassemblant plus de 71 000 membres.
À l’image du véganisme, les motivations sont surtout éthiques et environnementales.
Même une courte conversation avec ChatGPT peut engloutir l’équivalent d’une bouteille d’eau, selon une étude de 2023. L’aspiration d’œuvres créatives par cette technologie a conduit des artistes, auteurs, cinéastes et musiciens célèbres à s’unir pour protester.
« [L’IA générative] vole en permanence sans consentement à partir de tout, viole la vie privée et en tire de l’argent », a déclaré à Euronews Next Marc, un abstinent de l’IA de 23 ans basé en Espagne.
« C’est un outil du capitalisme pour maintenir l’exploitation des travailleurs, voire l’élever à un cran supérieur ».
À côté de ces préoccupations, une crainte plus profonde plane quant à la façon dont l’IA pourrait nuire à notre santé mentale et à notre développement cognitif, en créant une dépendance aux solutions rapides qui nous privent de l’esprit critique.
Une récente étude de petite ampleurdu Massachusetts Institute of Technology (MIT) va dans ce sens, rapportant que ses participants ayant utilisé ChatGPT pour rédiger des essais ont enregistré une moindre activité cérébrale que ceux qui n’ont pas utilisé l’outil.
Les utilisateurs de ChatGPT ont aussi peiné à citer ce qu’ils venaient de créer et ont montré une sous-performance aux « niveaux neuronal, linguistique et comportemental », a constaté l’étude.
Cela pourrait avoir des implications plus larges sur l’apprentissage, la confiance et la manière dont les humains utilisent l’IA dans des contextes importants, selon Nataliya Kosmyna, coautrice de l’étude et chercheuse au MIT Media Lab, au sein du groupe Fluid Interfaces.
« Si une personne ne se souvient pas vraiment de ce qu’elle vient d’écrire, elle ne ressent pas de propriété, ce qui signifie en fin de compte qu’elle ne s’en soucie pas vraiment. Alors, et si ce n’était pas juste une expérience de laboratoire ? Et si c’était une situation réelle, comme, vous savez, une affaire de vie ou de mort ? Certains emplois l’exigent ».
Pour Lucy, une « végane de l’IA » de 22 ans originaire d’Espagne, ses préoccupations se concentrent sur la tendance de certains chatbots à la flagornerie, qui peut conduire à valider des idées délirantes et parfois dangereuses.
« J’ai l’impression que l’ère numérique a déjà apporté beaucoup de stupidité, simplement parce que les gens utilisent mal Internet et les téléphones, au lieu de s’en servir pour apprendre des choses. Mais que des gens soient bêtes pendant que les chatbots leur disent à quel point ils ont raison et sont brillants ? C’est inquiétant », a-t-elle déclaré.
Les difficultés de l’abstinence vis-à-vis de l’IA
L’IA générative se développe à un rythme rapide, infiltrant les emplois, l’éducation, les applications de réseaux sociaux et même nos relations. Cela rend son évitement de plus en plus difficile.
« Il faut avoir un mental solide, mais j’ai réussi », explique Marc, qui travaillait auparavant dans la cybersécurité de l’IA.
« C’est particulièrement compliqué de rester à l’écart à l’université, par exemple, quand la plupart des étudiants, et même des enseignants, l’utilisent régulièrement pour tout », dit-il, ajoutant que cela a aussi créé un fossé avec sa famille, « accro à la simplification » de l’IA.
Lucy est aussi « fortement encouragée » à utiliser l’IA dans son stage au sein d’une entreprise de design graphique, malgré des résultats souvent discutables.
« Récemment, un client nous a demandé d’animer son assistant IA (un très vilain dessin d’une femme avec toute la laideur clinquante de l’IA). Nous nous débattons avec ça, parce que l’IA vidéo lui donne d’énormes mains et compagnie. Très « uncanny valley » », dit-elle.
Mais même lorsque notre vie professionnelle nous oblige à utiliser cette technologie, Kosmyna estime que nous devrions conserver le droit de choisir quand et comment elle est utilisée, en exerçant ces droits avec discernement.
« Est-ce que j’interagis avec elle à cause de mon travail, en menant des études ? Oui, absolument. Est-ce que nous enquêtons lorsqu’une nouvelle fonctionnalité apparaît, par exemple, ou quand une nouvelle revendication apparaît ? Oui. Mais l’utiliser pour d’autres cas d’usage personnels ou professionnels ? Personnellement, je n’en vois pas la nécessité », dit-elle.
« Certains cas d’usage de l’IA générative, bien sûr, sont très intéressants, plus que d’autres. Mais je n’ai pas besoin de brûler sept arbres et sept gallons d’eau pour réécrire un e-mail », dit-elle.
L’IA peut-elle être éthique ?
Pour la plupart des « véganes de l’IA », la croyance centrale est que l’IA est fondamentalement contraire à l’éthique.
Si Marc estime que son utilisation devrait être « interdite et punie par la loi », d’autres restent partisans de réglementations plus strictes qui privilégient des pratiques morales plutôt que le profit.
« L’IA peut totalement être éthique si le matériel d’entraînement est sourcé de manière éthique et qu’ils n’emploient pas pour cela des travailleurs kenyans exploités », affirme Lucy.
« Le coût énergétique sera très probablement énorme de toute façon, mais je ne nierai pas que j’ai des loisirs très énergivores ou polluants, comme le jeu vidéo, l’achat de produits à l’étranger pour des collections et ce genre de choses ».
À un moment où des restrictions d’âge sont mises en œuvre sur les plateformes de réseaux sociaux dans certains pays, avec l’Australie qui adopte une interdiction pour les moins de 16 ans, Kosmyna pense que l’IA générative devrait être traitée de manière similaire.
« Je pense qu’elle devrait être absolument interdite aux mineurs. Et par mineurs, j’entends toutes les personnes scolarisées jusqu’à l’âge de 18 ans », dit-elle, ajoutant : « Et dans les environnements d’apprentissage, elle ne devrait pas être imposée ».
Alors que nous continuons à composer avec une IA qui s’immisce dans nos vies, celles et ceux qui choisissent de s’en abstenir nous rappellent au moins une chose rassurante : l’émerveillement du réel est sans égal.
« L’IA est tellement répétitive et superficielle », dit Lucy. « Une fois que la nouveauté s’estompe, on remarque à quel point le divertissement humain est supérieur à cela ».
Les « véganes de l’IA » cités dans cet article ont accepté de s’exprimer auprès d’Euronews Next sur leurs expériences d’abstinence de l’IA, mais n’ont pas souhaité que leurs vrais noms apparaissent pour des raisons de confidentialité.