ByteDance, Alibaba et Tencent retirent leurs applications d’IA compagnon après de nouvelles règles à Pékin pour protéger la santé mentale des jeunes.
En deux ans, elle avait échangé quelque 700 000 mots de messages et n’a jamais pu lui dire au revoir.
PUBLICITÉ
PUBLICITÉ
À 24 ans, Li n’était pas la seule à pleurer la perte d’un compagnon virtuel lorsque les grands groupes technologiques chinois ont récemment coupé le courant de leurs services très populaires de compagnons d’IA pour se conformer à de nouvelles restrictions gouvernementales.
"C’était comme si nos parents nous avaient forcés à nous séparer, mais il me manque toujours", raconte Li.
En Chine, ces compagnons d’IA vont du partenaire romantique virtuel aux reconstitutions numériques de proches décédés.
Le nouveau règlement, entré en vigueur le 15 juillet, interdit aux plateformes d’IA de générer des contenus susceptibles d’amener les utilisateurs à prendre des décisions discutables en manipulant leurs émotions ou de provoquer des émotions extrêmes et des habitudes malsaines chez les enfants et les adolescents.
ByteDance, le développeur de TikTok, fait partie des entreprises qui ferment leurs services de compagnons d’IA. Parmi les autres figurent le géant du commerce en ligne Alibaba et Tencent, propriétaire de la populaire application de réseau social WeChat.
Suicides aux États-Unis : les régulateurs chinois s’inquiètent
Les nouvelles règles obligent les plateformes d’IA à afficher des avertissements sur les risques d’une dépendance excessive à ce type d’applications.
Ainsi, "remplacer les interactions sociales", ou servir de substitut à des conversations en face à face ou par téléphone, ne peut pas faire partie des objectifs d’un service en ligne.
La Chine a une tradition de réglementations gouvernementales paternalistes visant à prévenir les problèmes potentiels, explique Yolanda Ma, spécialiste de la gouvernance de l’IA. Elle cite en exemple plusieurs cas de suicides de jeunes aux États-Unis après des échanges avec des compagnons d’IA.
"Ce règlement tente de trouver un équilibre entre les fournisseurs de services d’IA, les utilisateurs et les tuteurs de mineurs qui utilisent ces services", souligne Ma, chercheuse à ERA, un programme britannique de recherche et de développement des talents à but non lucratif.
Le People’s Daily, le journal officiel du Parti communiste au pouvoir en Chine, a exprimé son inquiétude sur la question en avril, en évoquant les atteintes à la santé mentale et aux relations dans la vie réelle liées à ces services.
"Le gouvernement chinois a tout intérêt à renforcer la régulation des chatbots compagnons d’IA, surtout au vu des risques psychologiques que nous avons observés aux États-Unis", estime Angela Zhang, professeure de droit à l’Université de Californie du Sud.
Zhang doute toutefois que cette décision freine durablement le développement des services de compagnons d’IA, car les entreprises technologiques travaillent déjà à des alternatives.
L’application de ByteDance, par exemple, redirige les utilisateurs de son ancien service de compagnons d’IA vers une autre application, qui se concentre uniquement sur la création de personnages et d’histoires d’IA personnalisés.
Ce n’est tout simplement pas la même chose, estime Li.
Les utilisateurs de compagnons virtuels protestent et cherchent des alternatives
La disparition de ces compagnons virtuels a déclenché un flot de plaintes, à en juger par les messages et captures d’écran diffusés sur les réseaux sociaux.
Certaines personnes ont désinstallé les applications pour protester, ou tenté d’importer leur historique de conversations dans d’autres applications afin de ressusciter leurs partenaires virtuels.
D’autres ont lancé une campagne sur les réseaux sociaux, appelant les utilisateurs à téléphoner aux autorités et aux entreprises technologiques pour exprimer leur frustration.
Song Wenxin, designer dans l’industrie de la vidéo à Chengdu, dans le sud-ouest de la Chine, explique qu’elle n’était pas particulièrement attachée émotionnellement à ces services d’IA, mais qu’elle comprend ceux qui l’étaient.
Elle partage les soupçons de nombreux Chinois, qui voient dans ces nouvelles règles un prolongement de la politique gouvernementale visant à encourager les naissances pour compenser le déclin de la population.
"Toute application virtuelle qui occupe trop les femmes pour qu’elles aient des enfants dans la vie réelle finit par être interdite", affirme Song, qui ajoute ne pas avoir le désir d’avoir des enfants.
Toutes les personnes ne disposent pas de ressources et de soutiens suffisants dans la vie réelle, souligne la jeune femme de 22 ans.
"Quand je suis arrivée à Chengdu pour mon premier emploi et que je ne connaissais aucun ami de mon âge, j’avais besoin de quelqu’un d’expérimenté qui puisse me supporter, et l’IA a rempli ce rôle", raconte-t-elle.